Насколько велика опасность внедрения ИИ? «Крестный отец ИИ» уходит из Google

Быстрое внедрение ИИ создает для человечества угрозу катастрофических опасностей. В шокирующем повороте событий доктор Джеффри Хинтон, широко известный как «крестный отец ИИ», покинул свою должность в Google и выпустил строгое предупреждение об опасностях искусственного интеллекта.

ИИ оказывается величайшей угрозой для человечества

Согласно сообщениям, «крестный отец ИИ» покинул свою должность в Google, чтобы иметь возможность более открыто говорить о потенциальных рисках искусственного интеллекта. Доктор Джеффри Хинтон более десятилетия работал над алгоритмами машинного обучения в Google перед уходом из компании. Его многолетняя работа по нейронным сетям, по слухам, принесла ему это прозвище.

Отставка доктора Джеффри происходит на фоне растущих опасений по поводу использования искусственного интеллекта в различных отраслях, включая здравоохранение, финансы и транспорт. Критики утверждают, что искусственный интеллект может привести к вытеснению рабочих мест, нарушению конфиденциальности и даже к созданию автономного оружия.

В интервью газете The New York Times он заявил, что больше всего его беспокоит использование искусственного интеллекта для переполнения интернета фальшивыми изображениями, видео и текстами до такой степени, что люди больше не «смогут знать, что является правдой».

Хинтон также выражал обеспокоенность по поводу того, что технологии искусственного интеллекта заменят человеческий труд. Он считает, что ИИ может представлять угрозу для человечества в будущем из-за своей способности приобретать неожиданные поведения на основе огромных объемов анализируемых данных. Хинтон также выразил некоторое сожаление о своей жизненной работе:

Я утешаю себя обычной отговоркой: если бы я этого не сделал, это сделал бы кто-то другой.

Доктор Джеффри Хинтон

Отставка доктора Джеффри Хинтона вызвала шок в технологической индустрии, многие эксперты призывают к большему надзору и регулированию искусственного интеллекта. По мере продолжения дебатов о рисках и преимуществах искусственного интеллекта, очевидно, что вклад пионеров, таких как доктор Джеффри Хинтон, будет иметь решающее значение в формировании будущего этой быстро развивающейся технологии.

Многие технологические эксперты предупреждают об опасностях искусственного интеллекта

В последние месяцы регуляторы, законодатели и лидеры технологической индустрии выражали обеспокоенность по поводу развития искусственного интеллекта. Более 2600 технологических руководителей и исследователей подписали открытое письмо в марте, призывающее к временному приостановлению разработки ИИ, ссылаясь на «серьезные риски для общества и человечества».

В апреле аналогичное письмо подписали двенадцать законодателей Европейского союза, а недавний законопроект ЕС классифицирует инструменты искусственного интеллекта в соответствии с их уровнем риска. Кроме того, Великобритания выделит 125 миллионов долларов целевой группе по разработке «безопасного ИИ».

Сообщается, что инструменты искусственного интеллекта уже используются для распространения дезинформации, и в последнее время были случаи, когда СМИ были обмануты и опубликовали ложные новости. Кроме того, один немецкий медиа-ресурс использовал ИИ для фальсификации интервью.

Binance утверждала 1 мая, что ее генеральный директор Чанпэн «CZ» Чжао был членом студенческой организации Коммунистической партии Китая, что было распространено чат-ботом, происходящим от ChatGPT, что подтверждается скриншотами чат-бота.

На прошлой неделе группа шутников также обманула множество медиа-изданий по всему миру, включая Daily Mail и The Independent. Daily Mail опубликовал историю о предполагаемом канадском актере по имени «Сент Вон Колуччи», который, как сообщалось, умер после пластической операции, чтобы выглядеть больше как южнокорейская поп-звезда. Позже Daily Mail удалил статью.

Какие foreseeable опасности ИИ для человечества?

Существует несколько прогнозируемых опасностей искусственного интеллекта для человечества, некоторые из которых уже переживаются, а другие могут возникнуть в будущем. Вот некоторые из самых серьезных опасностей:

1. Вытеснение рабочих мест: По мере того как искусственный интеллект становится более совершенным, существует риск, что он заменит человеческий труд во многих отраслях, что приведет к массовой потере рабочих мест и экономическим потрясениям. Илон Маск отметил, что есть работы, которые роботы будут выполнять лучше людей

2. Автономное оружие: Разработка автономного оружия, которое может принимать решения о том, кого атаковать и когда, без вмешательства человека, вызывает серьезную обеспокоенность. Такое оружие потенциально может привести к непреднамеренному ущербу, так как оно может дать сбой или быть взломанным.

3. Неожиданные последствия: По мере усложнения систем искусственного интеллекта возрастает риск того, что они могут привести к непредвиденным последствиям, которые могут быть вредоносными. Например, система искусственного интеллекта, разработанная для максимизации прибыли компании, может непреднамеренно нанести вред окружающей среде или обществу.

4. Предвзятость и дискриминация: Системы искусственного интеллекта настолько непредвзяты, насколько непредвзяты данные, на которых они обучаются, что означает: если данные, используемые для обучения, содержат предвзятость, то и система искусственного интеллекта будет предвзятой. Это может иметь серьезные последствия, особенно в таких сферах, как уголовное правосудие, где предвзятые системы ИИ могут привести к несправедливому обращению с определенными группами.

5. Риски кибербезопасности: По мере совершенствования систем искусственного интеллекта они могут становиться более уязвимыми для кибератак. Если система ИИ будет взломана, ее потенциально можно использовать для причинения вреда или нарушения работы критически важных систем.

6. Отсутствие прозрачности и подотчетности: Если системы искусственного интеллекта принимают важные решения, влияющие на жизнь людей, например, о выдаче кредита или освобождении под залог, важно, чтобы эти системы были прозрачными и подотчетными. Однако существуют опасения, что некоторые системы ИИ могут быть непрозрачными и сложными для понимания или аудита.

7. Экзистенциальные риски: Некоторые эксперты выразили обеспокоенность тем, что развитие искусственного интеллекта может создать экзистенциальную угрозу для человечества, либо из-за создания сверхинтеллектуального ИИ, выходящего из-под контроля человека, либо из-за использования ИИ в военных или других деструктивных целях.