OpenAI首席执行官萨姆·奥特曼、IBM负责信任与隐私的副总裁克里斯蒂娜·蒙哥马利以及纽约大学荣休教授加里·马库斯作证。虽然听证会的议程细节尚不清楚,但其标题“人工智能监管:人工智能规则”表明,讨论将围绕安全和隐私展开。马库斯教授近期曾公开支持由社区主导的为期六个月的人工智能开发“暂停”计划,他是所有已确认出席听证会的人员中唯一一位持不同意见者。
👉 美国参议院将于周二上午10点(美东时间)#人工智能监管#听证会, OpenAI首席执行官@sama 、IBM的@_ChristinaMont和纽约大学荣誉退休教授@garymarcus ://t.co/VwiR77F52f
— Gary Marcus (@GaryMarcus) 2023年5月10日
马库斯提出的“人工智能暂停”理念,一封公开信defi,该公开信已获得超过27500个签名。这封信的目标是“呼吁所有人工智能实验室立即暂停至少6个月内训练比GPT-4更强大的人工智能系统”。
OpenAI首席执行官克里斯蒂娜·蒙哥马利(Christina Montgomery)等人反对暂停人工智能训练。蒙哥马利认为,全面暂停人工智能训练,再加上目前行业似乎正在忽视对人工智能伦理方面的投入,只会导致更多损害和挫折。IBM则认为,人工智能应该根据风险进行监管。
IBM和OpenAI在人工智能伦理问题上持截然相反的立场。
OpenAI 负责开发ChatGPT ,它可以说是目前最流行的面向公众的 AI 技术。奥特曼支持安全且合乎伦理地开发 AI 系统,但他同时认为应该“让每个人都参与讨论”并“将这些系统推向世界”。蒙哥马利是美国国家 AI 咨询委员会的成员,他主张采取更精准的 AI 监管方式,并强调必须优先考虑伦理问题。
即将举行的参议院听证会很可能成为国会议员提问的平台。根据不同专家的说法,此次讨论可能会产生破坏性影响。蒙哥马利担心,如果国会认定人工智能监管需要采取强硬措施,那么这种做法可能会在未必能解决安全问题的情况下,对创新产生抑制作用。
这种危害可能会蔓延到那些依赖GPT技术运行大量机器人和服务的行业。像马库斯·马斯克和埃隆·马斯克这样的专家担心,如果不能实施他们认为与人工智能监管相关的常识性政策,可能会导致人类面临生存危机。
人工智能的必要性。尽管奥特曼和蒙哥马利反对全面暂停人工智能的研发,但马库斯却支持。这场讨论可能会产生颠覆性的影响,这取决于国会是否认为人工智能监管需要采取强硬措施。蒙哥马利担心这会扼杀创新,而马库斯和马斯克则担心,如果不能制定符合常理的政策,可能会给人类带来生存危机。
OpenAI