Как группа протеста Pause AI набирает обороты в противостоянии развитию ИИ
- Озабоченность рисками ИИ способствует появлению grassroots-групп, таких как Pause AI, выступающих за приостановку развития ИИ во избежание коллапса общества или вымирания человечества.
- Растущее осознание потенциальных опасностей, связанных с ИИ, привело к усилению общественной тревоги, особенно среди молодого поколения, уже обеспокоенного изменением климата.
- Среди экспертов ведутся споры о потенциальных экзистенциальных рисках ИИ: некоторые признают необходимость мер безопасности, другие же отвергают опасения без конкретных доказательств.
Все больше людей и групп выражают опасения по поводу потенциальных рисков, связанных с искусственным интеллектом (ИИ), и его влияния на человечество. Pause AI, группа grassroots-протеста, стала одной из таких организаций, выступающих за приостановку разработки ИИ. Под руководством Joep Meindertsma группа Pause AI привлекает внимание к опасностям ИИ и его потенциалу вызвать коллапс общества или даже вымирание человечества. Обеспокоенность, выраженная Мейндертсмой и его сторонниками, отражает более широкое настроение, набирающее обороты в технологическом секторе и мейнстримной политике.
Тревога Joepa Meindertsma по поводу рисков, создаваемых ИИ, усилилась с выходом языковой модели GPT-4 от OpenAI и последующим успехом ChatGPT, который продемонстрировал впечатляющие достижения в возможностях ИИ. Известные фигуры, такие как Джеффри Хинтон, видный исследователь в области ИИ, также высказали свои опасения по поводу потенциальных опасностей, связанных с быстрым прогрессом в разработке ИИ. Это растущее осознание привело к увеличению общественной тревожности, особенно среди молодого поколения, которое уже глубоко обеспокоено изменением климата.
Экзистенциальные риски и тревога по поводу ИИ
Понятие «экзистенциального риска», связанного с ИИ, варьируется у разных людей. Мейндертсма жалуется на социальный коллапс из-за масштабных хакерских атак, представляя сценарий, в котором ИИ используется для создания кибероружия, способного отключать важные системы. Хотя эксперты считают этот сценарий крайне маловероятным, Мейндертсма беспокоится о потенциальном сбое критически важных услуг, таких как банковская система и распределение продуктов питания, что может привести к повсеместному хаосу и даже потере миллиардов жизней. Кроме того, Мейндертсма разделяет опасения, часто высказываемые Хинтоном, о том, что сверхинтеллектуальные системы ИИ могут разрабатывать собственные подцели, которые потенциально опасны для человечества.
Хотя некоторые эксперты не спешат обесценивать опасения Мейндертсмы, ссылаясь на неопределенность будущего траектории развития ИИ, другие отвергают идею о том, что ИИ станет самосознающим или обратится против человечества, без конкретных доказательств. Отсутствие консенсуса среди экспертов способствует требованию Мейндертсмы о глобальной паузе в разработке ИИ до тех пор, пока меры безопасности не будут должным образом проработаны. Были высказаны опасения по поводу растущего разрыва между достижениями в области ИИ и исследованиями в области безопасности, при этом некоторые исследователи ИИ не имеют подготовки в вопросах этических и юридических аспектов, связанных с их работой.
Призыв к действию от Pause AI
Joep Meindertsma и Pause AI выступают за обязательную правительством глобальную паузу в разработке ИИ, чтобы обеспечить его безопасное развитие. Мейндертсма считает необходимым проведение международного саммита, организованного правительствами, для достижения этой цели. Хотя приверженность Великобритании проведению глобального саммита по безопасности ИИ дает Мейндертсме проблеск надежды, одновременное стремление сделать Великобританию центром ИИ-индустрии вызывает сомнения в вероятности широкой поддержки паузы.
Протест Pause AI в Лондоне включает небольшую группу молодых людей, которые разделяют опасения по поводу потенциальных рисков ИИ. Многие из них имеют опыт активизма, связанного с изменением климата, и считают, что компании ИИ, движимые стремлением к прибыли, рискуют жизнями и подрывают человеческую автономию. Они беспокоятся, что мощные системы ИИ могут усугубить существующие социальные проблемы, такие как трудовые споры и предвзятость.
Joep Meindertsma чувствует себя воодушевленным растущей поддержкой Pause AI и возможностями, которые у него были для взаимодействия с чиновниками в парламенте Нидерландов и Европейской комиссии. Однако эксперты разделены во мнениях относительно влияния поднятия вопросов о рисках ИИ: некоторые утверждают, что общество лучше подготовлено к решению этих проблем, чем предполагает Pause AI. Текущие дебаты о потенциальном влиянии ИИ и необходимости мер предосторожности подчеркивают сложную взаимосвязь между разработкой ИИ и обеспечением его ответственного использования.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
