OpenAI团队将专注于人工智能软件的民主程序

　　

　　

　　旧金山，1月16日——人工智能实验室OpenAI今天在一篇博客文章中表示，该公司正在组建一个新的团队，以创建民主程序，以塑造其人工智能软件应该如何管理，以解决偏见和其他因素。

　　这家总部位于旧金山的公司表示，“集体结盟”团队是2023年5月宣布的一项资助民主进程实验的拨款计划的延续。这个节目最近结束了。

　　“随着我们继续追求超级智能模型的使命，这些模型可能被视为我们社会不可或缺的一部分……重要的是让人们有机会直接提供意见，”研究工程师、OpenAI新团队创始成员Tyna Eloundou告诉路透社。

　　例如，为了确保只有人类才能投票，OpenAI可以与Worldcoin合作，Worldcoin是OpenAI首席执行官Sam Altman创建的一个加密货币项目，提供了一种区分人类和AI机器人的方法，两人团队的另一名成员、产品经理Teddy Lee说。

　　Lee指出，该团队还没有制定任何具体的计划来整合世界币。

　　自OpenAI于2022年底推出ChatGPT以来，能够从文本提示中生成异常权威的散文的生成式人工智能技术吸引了公众，使该程序成为有史以来增长最快的应用程序之一。

　　然而，人们对人工智能创造“深度伪造”图片和其他错误信息的能力感到担忧，尤其是在2024年美国大选即将到来之际。批评人士表示，像ChatGPT这样的人工智能系统由于用于塑造其观点的输入而具有固有的偏见，用户已经发现了人工智能软件输出的种族主义或性别歧视的例子。

　　Eloundou说，新的OpenAI团队正在积极招聘一名研究工程师和研究科学家。该团队将与OpenAI的“人类数据”团队和其他研究团队密切合作，该团队为收集公司人工智能模型的人类输入建立基础设施。——路透社