人工智能如何做到可信、可用?专家热议:把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态,是人工智能技术能做到可知、可信、可控、可用。而在现实中,人工智能技术手段虽然非常强大,但是离完美、完善仍有相当的距离。从技术角度和技术应用角度,人工智能的发展如何做到扬长避短?
近日,在2022人工智能合作与治理国际论坛上,专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为,现阶段很多技术还处于发展的过程中,如果过早地说这个不能用、那个不能用,可能会抑制技术本身的发展。但反过来,如果什么都不管,也不行。
“因此,现在更多还是从道德层面多进行引导。同时,做技术的人,也要尽量把一些可能的风险、抑制工具,即约束风险的工具,尽快想明白。自己也做,同时号召大家做,两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为,我们要保证能够创新,但同时不能让创新对我们的生活产生破坏性的影响,最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时,社会也要进行集体的监督,发布某个产品或技术,要能够召回、撤销。在创新和监管之间,当然是需要平衡的,但归根结底,还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道,在技术可解释性方面,需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型,或者更加可解释的AI应用。
“但我们真正想落地的时候,会发现每个人想要的可解释性完全不一样。比如:模型层面的可解释,可能从研发人员角度觉得已经很好了,但是从用户的角度是看不懂的,这需要一些案例级的解释,甚至通过替代模型等方式进行解释。因此,在不同领域,需要不同的可解释能力,以及不同的可解释级别,这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中,现在是不是时候?
高文认为,人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对,可能带来危害,要么召回,要么撤销。
高文说,应用的开发者,系统提交或者最终用户让他去调整的时候,他应该有责任。如果开发者发现已经踩线了,应该给他一个保护机制,他可以拒绝后面的支持和维护,甚至可以起诉。“不能只说哪一方不行,光说是开发者的责任,他可能觉得冤枉,因为他只提供工具,但有时候是有责任的,只是说责任怎么界定。”
“在人工智能的发展过程中,一方面要建立一些红线。”田天建议,比如,对于人工智能的直接滥用,造假、个人隐私泄露,甚至关联到国家安全、生命安全的,这些领域一定要建立相关红线,相应的惩罚规定一定要非常清晰,这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上,对于处于模糊地带的,希望能留有更多空间。不光是从限制角度,也可以从鼓励更加重视伦理的角度,促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办,清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
纪检监察机关围绕重点民生工作 跟进监督保障祥和过节****** 纪检监察机关围绕重点民生工作 跟进监督保障祥和过节 本报讯(记者 李灵娜)春节临近,各地各部门用心用情、扎实细致做好重点民生工作。中央纪委日前印发《关于做好2023年元旦春节期间正风肃纪工作的通知》,各级纪检监察机关着眼保障人民群众度过安定祥和的节日,大力纠治在民生保障、帮扶救助、安全生产等方面不作为乱作为问题,推动解决群众“急难愁盼”。 “快过年了,预订年夜饭的客人多吗?最近市场监管部门有到酒楼来吗?”“已经快订满了。区市场监管部门来过几次,提醒我们要保证食材质量和卫生安全。”离春节不到半个月,四川省成都市纪委监委驻市市场监督管理局纪检监察组与驻在部门执法人员组成3个联合监督检查小组,深入全市酒店食府,围绕团年宴进货有无索证索票、食材储存管理是否合规、厨余垃圾如何处理、市场监管所执法人员检查频次和发现问题等,摸排一线监管人员有无不作为、慢作为、假作为、乱作为问题,督促推动市场监管系统动起来、紧起来、严起来,以实际行动守卫人民群众的“年夜饭”食品安全。 “我们监督聚焦‘民意最盼’,将团年宴食品安全检查工作具体情况,作为近期监督重点,直接到一线点位去,详细了解相关职能部门履职履责情况,以精准监督压实职能部门和属地政府责任,助力护民生、保安全。”成都市纪委监委第五纪检监察室主任刘学强说。 湖北省宜昌市纪委监委正在持续开展“下基层察民情解民忧暖民心”实践活动,发动全市纪检监察干部深入山区乡村、低保社区,以空巢老人、留守儿童、残疾人等困难群体为重点,逐村实地走访,逐项精准核查。1月以来,已经开展走访15次,发现并督促解决问题68个,保障群众平安祥和过节。 前不久,宜昌市远安县纪委监委党风政风监督室副主任覃雯雯来到茅坪场镇九龙村,偶然发现脱贫户张善新家中房梁受白蚁蛀食,房屋存在安全隐患。走访中,覃雯雯发现好几户村民家中都存在类似问题。远安县纪委监委随即将相关情况“点对点”反馈至县住建局,督促相关单位明确整改责任人和销号时间。1月5日,覃雯雯来到张善新家中进行回访。“去年发现房梁上好多小孔后,我每天都提心吊胆,怕哪天房梁被挖空了。这才没过几天,干部们就来教了防治白蚁的办法,还帮忙换了受损房梁。”张善新说。 “智能燃气表免费更换及集中入户安检推进怎样?供气管网设施及输配系统是否消除安全隐患?”“要加强燃气安全管理,做好应急预案,全力保障人民群众的生命财产安全”……近日,江苏省太仓市纪委监委紧盯节日期间安全生产领域问题易发多发环节,进一步整合、统筹、优化各方监督力量,联合应急、住建、环保、市场监管等职能部门开展精准监督,持续织密“监督网”,督促相关职能部门加大执法力度,全面排查整治贯彻落实年前安全风险防控不严密、安全责任落实不到位等各类民生领域的安全隐患问题,以精准有效的监督执纪执法回应群众期盼、保障民生福祉。 “在这次专项监督检查中,我们一手全力解决群众的急难愁盼,一手大力整治群众身边的腐败和作风问题,从‘小切口’做好民生‘大文章’。针对民生领域典型案件,通过综合运用纪检监察建议、组织专项治理及加大曝光力度等方式,打出监督‘组合拳’,督促各级党组织把‘人民至上、生命至上’的要求落实到具体工作中。”太仓市纪委监委相关负责人说。(中国纪检监察报) (文图:赵筱尘 巫邓炎) [责编:天天中] 阅读剩余全文() |