任何人都可以申请OpenAI的资助计划,提出可靠的代码程序来决定人工智能系统应该遵循哪些规则,从而帮助AI系统解决偏见和其他问题。申请期将在6月24日晚9点结束,随后,OpenAI将选出十名获奖者发放奖金。
申请人需要向OpenAI展示一个至少有500人参与的民主决策过程,并在10月20日之前发布公开报告,并开源相关的代码。
该计划正巧在OpenAI首席执行官Sam Altman的国会听证会后发布。在国会作证中,Altman曾恳切呼吁当局成立一个监管人工智能的专属机构。此外,Altman最近还表示,如果欧盟通过了过于严苛的AI法规的话,OpenAI将离开欧盟。
综合考虑之下,这一计划更像是OpenAI在推出自己掌握了主动权的监管方案,并以此向政府提供基准。
非商业利益的考量
Altman曾在听证会上抛出一个观点,人工智能的创新非常之快,因此不能指望当局可以充分控制技术。
现如今,OpenAI打算将个人、团体和组织等一起囊括入人工智能“民主进程”的开发验证之中,借用外部力量完成实验,为未来的人工智能治理提供方向。
OpenAI表示,最初的实验并不会对人工智能系统的决策产生约束力,但希望这些实验可以探索与决策相关的问题,以便在未来更直接地为决策提供信息。
理想情况下,OpenAI希望这一计划可以产生一个这样的过程:一群具有广泛代表性的人交换意见并经过深思熟虑的讨论,最后以透明的方式进行决策。
更落地一些,这一过程将帮助人工智能解决诸如,何时AI应该谴责或批评公众人物,或者有争议的观点如何输出这样的问题。
OpenAI在公告中称,赠款的主要目的是促进流程创新,关于人工智能行为的决策应该由反映公众利益的不同观点来决定。其还暗示该资助计划完全不带商业利益色彩,但结合欧盟的AI监管法案,这一计划的出台仍有一些“自救”的意味。
不过,即使该项目是OpenAI商业计划中的一环,其人为人工智能决策发展提供了一个有趣的观察窗口,人们可以了解关于AI治理的更多想法,同时从OpenAI选择的获奖人身上获得一些OpenAI未来发展的线索。