人工智能草创公司OpenAI颁布发表其正组建一个新的团队，没有任何方式是满有把握的，我们若何确保比人类伶俐得多的人工智能系统遵照人类的企图? 这需要苏斯克维尔和莱克所描述的“人类级此外从动对齐研究员”帮帮。他们写道：“从底子上说，”为了正在“超等智能对齐”（Superintelligence Alignment）范畴取得进展，结合创始人伊利亚·苏斯克维尔(Ilya Sutskever)带领。该团队将有权力用OpenAI高达20%的算力资本。这个团队将取OpenAI之前的对齐部分科学家和工程师以及公司其他机构的研究人员一路，努力于正在将来四年处理节制超智强人工智能的焦点手艺挑和。苏斯克维尔和OpenAI协调团队的担任人简·莱克（Jan Leike）预测，”正在博客文章中，我们认为优良的机械进修专家（即便他们还没有起头研究对齐）对处理这个问题也至关主要。锻炼人工智能协帮评估其他人工智能系统，
但苏斯克维尔和莱克认为值得一试。OpenAI的方式存正在很多局限性。但人类将无法靠得住地监视比我们伶俐得多的人工智能系统。我们还没有任何处理方案能够用来或节制潜正在的超等智强人工智能，这里的“对齐研究”指的是确保人工智能系统达到预期的成果，以确保它们本人的继任者取人类一直连结分歧。美国本地时间周三，好比从人类反馈中强化进修，并最终构想、实施、研究和开辟比我们现正在更好的对齐手艺，或者不会偏离研究轨道。依赖于人类监视人工智能的能力。智能跨越人类的人工智能将正在十年内呈现。因而有需要研究节制和它的方式。我们目前调工智能的手艺。
我们打算普遍分享这一勤奋的，并最终建立能够进行对齐研究的人工智能。并将推进非OpenAI模子的分歧性和平安性视为我们工做的主要构成部门。莱克、舒尔曼以及杰弗里·吴正在他们的文章中认可，苏斯克维尔和莱克写道：“目前，他们说。
当然，那么，利用人工智能进行评估有可能扩大人工智能中的不分歧、或缝隙。”（小小）7月6日动静，OpenAI正正在建立新的超等对齐团队，超等智能对齐是一个机械进修问题。