OpenAI正探索AI集体决策,提出类似维基百科条目模式
摘要: 公司正在测试如何收集影响其AI的决策的广泛信息。布鲁克曼介绍了OpenAI如何探索全球AI监管的大致信息。对于AI政策,布鲁克曼说,全球政府“必须协调,以确保AI的安全发展。国际原子能机构(IAEA)等机构可能会对AI部署施加限制,他的另一项建议是达成一项全球协议。”限制最前沿AI能力的年增长速度,或创建可由主要国家的政府参与的全球联合项目。
天天科技讯 北京时间5月23日早间消息,美东时间周一,ChatGPT的开发者OpenAI公司的总裁格雷格·布鲁克曼(Greg Brockman)表示,公司正测试如何收集影响其AI的决策的广泛信息。他提到了一种类似于维基百科的模式,后者要求观点不同的人聚集在一起,从而就百科条目达成一致。
在旧金山由高盛集团和SV Angel主办的AI Forward活动上,布鲁克曼介绍了OpenAI如何寻求全球AI监管的大致信息。
布鲁克曼在谈到AI政策的时候表示:“不仅仅是在规格,我们认为这些规则可以适用于任何人。我们正在开始思考民主的决策方式。”
布鲁克曼谈到的另一个想法是,世界各地的政府应该进行协调,以确保AI的安全发展.
自去年11月30日推出ChatGPT以来,一跃成为有史以来增长速度最快的应用程序。AI也成为人们关注的焦点,不过它也有能力创造出深度伪造的图片和其他错误信息。
在评估AI的发展道路时,布鲁克曼考察了维基百科以及其他地方。他和OpenAI表示,像国际原子能机构(IAEA)这样的机构可以对AI的部署进行限制,审查它是否符合安全标准,并跟踪计算能力的使用。
他的另一个建议是达成一项全球协议,限制前沿AI能力的年度增长速度,或者建立一个主要国家的政府可以参与的全球联合项目。
OpenAI首席执行官山姆·阿尔特曼(Sam Altman)上周向美国立法者提出了为AI设置监管的各种想法,其中包括要求为开发最复杂的AI模型颁发许可证,并建立相关的治理制度。他本周正在访问欧洲进行访问,并与政策制定者会面。
我来说两句