人工智能如何做到可信、可用?专家热议:把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态,是人工智能技术能做到可知、可信、可控、可用。而在现实中,人工智能技术手段虽然非常强大,但是离完美、完善仍有相当的距离。从技术角度和技术应用角度,人工智能的发展如何做到扬长避短?
近日,在2022人工智能合作与治理国际论坛上,专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
浙江丽水:擦亮健康底色,以数字化改革提升服务力****** 时值严冬,呼吸道疾病感染进入高发期。在浙江省丽水市莲都区大港头镇官岭村,山区村民足不出村,即可在家门口的“流动发热门诊”就诊取药。 近日,2022年度全国爱国卫生运动大会在北京举行。在大会的健康城市主题分会上,丽水市副市长卢彩柳作“倡导文明健康助力健康城市建设”典型经验分享时介绍,丽水打造的“智慧流动医院”,实现了758个未设医疗机构的偏远行政村全覆盖。 早在2018年,丽水市创新建立了“流动医院”巡回诊疗山区模式,此后运用数字化技术加以升级改造。近期,当地基于46辆“智慧流动医院”巡回诊疗车(以下简称“智慧流动医院”),按需开设“流动发热门诊”。 地处浙南山区的丽水,生态环境状况指数连续18年位居浙江省首位。记者了解到,丽水市已连续两年获评全国健康城市建设样板市,除了良好的生态环境,以数字化改革提升服务水平,是当地建设“健康丽水”的重要手段。 经过升级改造的“智慧流动医院”,除了可进行常规的血压、血糖检查,还能实现心电图、尿检、B超等项目。尤为关键的是,智慧车载系统配备5G网络,通过打通医保系统,安装移动结算系统,在车内就可以实现医保刷卡结算,挂号收费、就医、检查、取药、医保报销、家庭医生签约、公共卫生服务等并网运行,让山区群众在家门口就能享受到县级医院的门诊服务。 新冠肺炎疫情防控期间,“智慧流动医院”曾数次驶入封控区,保障隔离群众看病买药需求。如2022年3月至4月,丽水莲都区岩泉街道蔚蓝水岸小区相关区域被划定疫情防控“三区”,莲都区当即协调“智慧流动医院”定期驻点开诊。 彼时,群众通过“浙里办”平台的“智慧流动医院”服务端,进入“需求反馈”界面,提出就医需求,区域基层医疗机构就能在“丽水市智慧流动医院管理监测平台”收到群众信息,提前安排出诊医生,为群众提供“点单式”服务,按需备好检查设备、药品、医疗物资等。 2022年7月,丽水市卫健委打造的“救在丽水”应用,在“浙里办”平台正式上线,通过构建多跨协同、高效便捷的山区医疗急救服务模式,进一步畅通山区群众“就医通道”。 记者了解到,该应用整合了丽水全市233家医疗机构、127辆院前急救车、46个流动医院、524台AED等资源,打通卫健、公安、医保等8个部门数据壁垒,集成双向定位、上车即入院等19个信息模块和1121个数据项目。 据介绍,“救在丽水”通过构建“身边救”“同步救”“精准救”“全域救”“全程救”5个场景,将原先急救流程中4个线下人工环节整合为线上一体化流程,将原来车上只能做体征监测模式提升为同步会诊模式,救治成功率从96%提升至98%,院前心肺复苏成功率从1.12%提升至2.26%。 2022年以来,“救在丽水”已参与执行急救任务45614次,促使全市急救服务半径从32公里缩小至19公里、平均急救反应时间从34分钟减少至18分钟,被评为浙江省数字社会系统2022年度“最佳应用”。 丽水市爱卫办相关负责人介绍,近年来,丽水实施健康优先发展战略,创新健康城市综合管理智慧化监管模式,依托“花园云”城市大脑,建成了健康城市管理体系,打通共享卫生健康、市场监管、行政执法、建设等部门数据,推动城市管理、食品安全、卫生监督等重点领域数字化智慧监管。 该负责人表示,接下来,丽水将进一步贯彻“将健康融入所有政策”“人民共建共享”的工作方针,将爱国卫生运动与传染病、慢性病防控等紧密结合,全面改善人居环境,坚持数字化改革,全力构建丽水山区医疗模式,为群众提供更普惠的医疗服务。(洪恒飞 赖英映 科技日报记者 江耘) (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |