США: СМИ и технологические деятели призывают остановить развитие сверхинтеллектуального ИИ
- Более 850 публичных фигур, включая Стива Бэннона, Джеффри Хинтона и Ричарда Брэнсона, подписали заявление с призывом к глобальной остановке разработки суперинтеллектуального ИИ.
- Институт будущего жизни, поддерживаемый Илоном Маском и Яаном Таллинном, предупреждает, что неконтролируемое развитие ИИ несет риски — от потери рабочих мест до потенциального вымирания человечества.
- Национальный опрос показывает, что большинство американцев поддерживают строгое регулирование ИИ, а такие ученые, как Йошуа Бенгио, призывают обеспечить безопасность и общественный контроль перед продвижением к суперинтеллекту.
Коалиция американских медиаперсон правого толка, ученых и технологических лидеров призывает к глобальному запрету на разработку сверхинтеллектуального искусственного интеллекта (ИИ), пока наука не обеспечит возможность его безопасного контроля при поддержке общества.
Согласно отчету Reuters от среды, петиция, скоординированная Институтом будущего жизни (FLI), была объявлена через совместное заявление, подписанное более чем 850 общественными деятелями.
Документ призывает правительства и ИИ-компании приостановить все работы по сверхинтеллекту, ИИ-системы, которые, как предполагается, превосходят человеческие когнитивные способности, до тех пор, пока не будут внедрены одобренные общественностью механизмы безопасности.
Союзники сходятся, чтобы остановить разработку сверхинтеллектуального ИИ
Корпоративные подписанты коалиции возглавляются представителями правых медиа Стивом Бэнноном и Гленном Беком, а также ведущими исследователями ИИ Джеффри Хинтоном и Ёшуей Бенгио. Среди других фигур — основатель Virgin Group Ричард Брэнсон, сооснователь Apple Стив Возняк и бывшие военные и политические чиновники США.
В списке также присутствуют бывший председатель Объединенного комитета начальников штабов Майк Маллен, бывший советник по национальной безопасности Сьюзан Райс, герцог и герцогиня Сассекские принц Гарри и Меган Маркл, а также бывший президент Ирландии Мэри Робинсон.
Известный ученый-компьютерщик Ёшуа Бенгио высказался о страхах коалиции в заявлении на сайте инициативы, отметив, что ИИ-системы вскоре могут превзойти большинство людей в когнитивных задачах. Бенгио повторил, что технологии могут помочь решить глобальные проблемы, но они несут огромную опасность при безрассудной разработке.
«Чтобы безопасно продвигаться к сверхинтеллекту, мы должны научно определить, как проектировать ИИ-системы, которые фундаментально не способны причинять вред людям, будь то из-за несовпадения целей или злонамеренного использования», — сказал он. «Нам также необходимо убедиться, что у общества будет гораздо большее влияние на решения, которые определят наше коллективное будущее».
Институт будущего жизни (Future of Life Institute), некоммерческая организация, основанная в 2014 году при ранней поддержке Tesla Илона Маска и технологического инвестора Яана Таллинна, также входит в число групп, выступающих за ответственное управление ИИ.
Организация предупреждает, что гонка за создание сверхинтеллектуального ИИ или искусственного суперинтеллекта (ASI) может создать необратимые риски для человечества, если она не будет должным образом регулироваться.
В своем последнем заявлении группа отметила, что сверхинтеллект может привести к «экономической неактуальности человека, лишению власти, потере свободы, гражданских свобод, достоинства и контроля, а также угрозам национальной безопасности и даже потенциальному вымиранию человечества».
FLI просит политиков полностью запретить исследования и разработку сверхинтеллекта до тех пор, пока не будет «сильной общественной поддержки» и «научного консенсуса о том, что такие системы можно безопасно построить и контролировать».
Технологическая индустрия разделена в вопросах развития ИИ
Технологические гиганты продолжают расширять границы возможностей ИИ, несмотря на то, что некоторые группы выступают против его влияния на рабочие места и разработку продуктов. xAI Илона Маска, OpenAI Сэма Альтмана и Meta соревнуются в разработке мощных больших языковых моделей (LLM).
В июле генеральный директор Meta Марк Цукерберг заявил на конференции, что разработка сверхинтеллектуальных систем «уже на горизонте». Однако некоторые эксперты по ИИ утверждают, что генеральный директор Meta использует маркетинговые тактики, чтобы напугать конкурентов тем, что его компания «опережает» в секторе, который, как ожидается, принесет сотни миллиардов долларов в ближайшие годы.
Корпоративные Правительство США и технологическая индустрия сопротивляются требованиям о моратории, утверждая, что страхи перед «апокалипсисом ИИ» сильно преувеличены. Критики приостановки развития говорят, что это подавит инновации, замедлит экономический рост и ограничит потенциальные преимущества, которые ИИ может принести в медицину, климатологию и автоматизацию.
Тем не менее, согласно национальному опросу, заказанному FLI, американская общественность в целом поддерживает более строгий надзор. Опрос 2000 взрослых показал, что три четверти респондентов поддерживают более жесткое регулирование продвинутого ИИ, а шесть из десяти считают, что сверхчеловеческий ИИ не следует разрабатывать, пока не будет доказана возможность его контроля.
До того как стать генеральным директором OpenAI, Сэм Альтман предупреждал в блоге в 2015 году, что «сверхчеловеческий машинный интеллект, вероятно, является наибольшей угрозой для продолжения существования человечества».
Аналогичным образом, Илон Маск, который одновременно финансирует и борется с развитием ИИ, сказал в начале этого года в подкасте Джо Рогана что существует «только 20% вероятность аннигиляции» из-за того, что ИИ превзойдет человеческий интеллект.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Флоренс Мучай
Флоренс уже 6 лет освещает новости в сферах криптовалют, игр, технологий и искусственного интеллекта. Её образование по специальности «Компьютерные науки» в Университете науки и технологий Меру, а также обучение управлению в чрезвычайных ситуациях и международной дипломатии в MMUST обеспечили ей отличные языковые навыки, наблюдательность и технические компетенции. Флоренс работала в группе VAP Group и была редактором в нескольких крипто-медиа.
