Американские СМИ и представители технологической отрасли призывают остановить разработку сверхинтеллектуального искусственного интеллекта

Коалиция американских правых медиаперсон, ученых и лидеров технологической отрасли призывает к глобальному запрету на разработку сверхинтеллектуального искусственного интеллекта (ИИ) до тех пор, пока наука не обеспечит возможность его безопасного контроля, при поддержке общественности.

Согласно сообщению агентства Reuters, опубликованному в среду, призыв, скоординированный Институтом будущего жизни (FLI), был объявлен посредством совместного заявления, подписанного более чем 850 общественными деятелями. 

В документе содержится призыв к правительствам и компаниям, занимающимся искусственным интеллектом, приостановить всю работу над сверхинтеллектуальнымисистемами — системами ИИ, которые, как предполагается, превосходят когнитивные способности человека, — до тех пор, пока не будут введены утвержденные общественностью механизмы безопасности.

Союзники объединяются, чтобы остановить разработку сверхинтеллектуального ИИ 

подписавших соглашение участников коалиции входят представители правых СМИ Стив Бэннон и Гленн Бек, а также ведущие исследователи в области искусственного интеллекта Джеффри Хинтон и Йошуа Бенджио. Среди других фигур – основатель Virgin Group Ричард Брэнсон, соучредитель Apple Стив Возняк, а также бывшие американские военные и политические деятели. 

В список также вошли бывший председатель Объединенного комитета начальников штабов Майк Маллен, бывший советник по национальной безопасности Сьюзан Райс, герцог и герцогиня Сассекские, принц Гарри и Меган Маркл, а также бывшийdent Ирландии Мэри Робинсон.

Известный специалист по информатике Йошуа Бенджио выразил опасения коалиции в заявлении на сайте инициативы, отметив, что системы искусственного интеллекта вскоре могут превзойти большинство людей в когнитивных задачах. Бенджио подчеркнул, что технологии могут помочь в решении глобальных проблем, но их безрассудное развитие сопряжено с огромными опасностями.

«Для безопасного продвижения к сверхразуму мы должны научно определить, как проектировать системы искусственного интеллекта, которые принципиально не способны причинить вред людям, будь то из-за несоответствия или злонамеренного использования», — сказал он. «Нам также необходимо обеспечить гораздоtronвлияние общественности на решения, которые будут формировать наше общее будущее»

Институт будущего жизни (Future of Life Institute), некоммерческая организация, основанная в 2014 году при первоначальной поддержке Tesla Илона Маска и технологического инвестора Яана Таллинна, также входит в число групп, выступающих за ответственное управление искусственным интеллектом. 

Организация предупреждает, что гонка за созданием сверхинтеллектуального ИИ или искусственного сверхинтеллекта (ИСИ) может создать необратимые риски для человечества, если не будет должным образом регулироваться.

В своем последнем заявлении группа отметила, что сверхразум может привести к «экономическому устареванию человечества, лишению его возможностей, потере свободы, гражданских свобод, достоинства и контроля, а также к угрозам национальной безопасности и даже к потенциальному вымиранию человечества»

FLI призывает политиков полностью запретить исследования и разработки в области сверхразума до тех пор, пока не будет "tronобщественной поддержки" и "научного консенсуса относительно того, что такие системы могут быть безопасно созданы и контролированы"

В технологической индустрии разошлись мнения по поводу развития искусственного интеллекта

Технологические гиганты по-прежнему пытаются расширить границы возможностей ИИ, несмотря на то, что некоторые группы выступают против его влияния на занятость и разработку продуктов. xAI Илона Маска, OpenAI Сэма Альтмана и Meta соревнуются в разработке мощных больших языковых моделей (LLM). 

В июле генеральный директор Meta Марк Цукерберг заявил на конференции, что разработка сверхинтеллектуальных систем «уже не за горами». Однако некоторые эксперты в области ИИ утверждают, что генеральный директор Meta использует маркетинговые приемы, чтобы запугать конкурентов, утверждая, что его компания «опережает» в секторе, который, как ожидается, в ближайшие годы принесет сотни миллиардов долларов.

Правительство США и технологическая индустрия сопротивляются требованиям о введении моратория, утверждая, что опасения по поводу «апокалипсиса ИИ» сильно преувеличены. Противники приостановки разработки заявляют, что это подавит инновации, замедлит экономический рост и потенциальные преимущества, которые ИИ мог бы принести в медицину, климатологию и автоматизацию.

Тем не менее, согласно общенациональному опросу, проведенному по заказу FLI, американская общественность в целом выступает за более строгий надзор. Опрос 2000 взрослых показал, что три четвертиdentподдерживают усиление регулирования передового ИИ, а шесть из десяти считают, что сверхчеловеческий ИИ не следует разрабатывать до тех пор, пока не будет доказана его управляемость. 

Прежде чем стать генеральным директором OpenAI, Сэм Альтман в своем блоге в 2015 году предупреждал, что «сверхчеловеческий машинный интеллект, вероятно, представляет собой наибольшую угрозу для дальнейшего существования человечества»

Аналогичным образом, Илон Маск, который одновременно финансировал и противодействовал развитию ИИ, заявил ранее в этом году в подкасте Джо Рогана, что существует «лишь 20% вероятность уничтожения» в результате того, что ИИ превзойдет человеческий интеллект.