首页 > 媒体生活 > 媒体生活 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

媒体生活更多>>

2024年浙江金华东阳市综合交通枢纽建设管理中心招聘执法辅助人员公告 浙江台州台州市科技馆招聘编制外劳动合同人员公告 2024年内蒙古大学生乡村医生专项计划招聘有关事项公告 2024年长春吉润净月医院社会招聘公告 云南省曲靖市沾益区第四中学2025年聘用制教师招聘公告 东莞市公安局中堂分局2024年招聘警务辅助人员招聘公告 仲巴县审计局、仲巴县机关后勤服务中心关于招聘编外工作人员的公告 2024年河南郑州市第一人民医院急需紧缺和实用型人才招聘39人公告 云南德宏瑞丽市总工会公益性岗位人员招聘公告(2024.12.12) 2024年广东佛山市禅城区张槎中学招聘临聘教师公告 2024年湖南医药学院第一附属医院招聘30人公告 2024年浙江杭州市滨江区区域性(社区)微型消防站队员招聘80人公告 浙江宁波市奉化区名山建设保障服务中心招聘工作人员公告 2024下半年四川眉山市彭山区招聘卫生类急需紧缺专业技术人员4人公告 2024年上海市作家协会招聘5人公告 河北沧州海兴县大学生乡村医生专项计划招聘4人公告 2024年北京市密云区卫生健康委员会事业单位招聘7人公告 2025年首都医科大学附属北京中医医院面向应届生招聘公告 2024年株洲市荷塘区财政局招聘政府雇员公告(2人) 2024年遵义市务川自治县总工会招聘基层工会社会工作者简章 2024年西陵区教育系统专项招聘事业单位工作人员公告(21人) 2024年丽江宁蒗彝族自治县融媒体中心招聘紧缺急需专业技术人员公告 定价多少能接受?丰田凯美瑞光辉版将于12月内上市,2.0L双擎动力 还在纠结丰田汉兰达?领克09四驱燃油版,187kW+8AT动力+超大空间 长安启源全新SUV预告图发布,车身近5米长,贯穿式LED灯组设计! 国产安全电混家轿还得看银河L6!各种细节拉满! 大通房车2025款生活家V90&旅行家V90即将发布 限时16.99万/无48伏轻混 别克昂科威Plus 28T白金版订单超5000辆 虽然现款特斯拉Model Y挺值,但我劝你再等等! 全新一代日产途乐正式发布,外形更威猛,八缸发动机下岗