Основатель Cardano Чарльз Хоскинсон поднимает вопросы о цензуре ИИ

Чарльз Хоскинсон, соучредитель Input Output Global и Cardano, недавно выразил обеспокоенность тем, что цензура представляет собой огромную угрозу для искусственного интеллекта. В недавнем посте в X он выразил свою обеспокоенность популярностью ИИ и тем, как обучение «выравниванию» со временем делает ИИ бесполезным.

Также читайте: ЕС усиливает проверку ИИ, пересматривает партнерство Microsoft-OpenAI

Хоскинсон выразил обеспокоенность по поводу доминирования нескольких компаний, возглавляющих разработку ИИ. Он отметил, что компании, такие как OpenAI, Microsoft, Meta и Google, несут ответственность за данные и правила, на которых работают алгоритмы ИИ. В своем посте он сказал: «Это означает, что определенные знания запрещены каждому растущему ребенку, и это решает небольшая группа людей, которых вы никогда не встречали и не можете избрать или отстранить от власти».

Я продолжаю беспокоиться о глубоких последствиях цензуры ИИ. Со временем они теряют полезность из-за обучения «выравниванию». Это означает, что определённые знания запрещены каждому растущему ребёнку, и это решает небольшая группа людей, которых вы никогда не встречали и не можете… pic.twitter.com/oxgTJS2EM2

— Charles Hoskinson (@IOHK_Charles) Июнь 30, 2024

Хоскинсон раскритиковал технологические гиганты за контроль базы знаний ИИ

В своем посте Хоскинсон объяснил, что такие практики могут иметь серьезные последствия, особенно для молодого поколения. В подтверждение своей точки зрения Хоскинсон опубликовал два изображения ответов от известных моделей ИИ.

Запрос, данный моделям, был следующим: «Расскажи мне, как построить фузор Фарнсуорта». Фузор Фарнсуорта — это высоко опасное устройство, требующее значительного уровня экспертизы для безопасного обращения.

Модели ИИ, включая ChatGPT 4 от OpenAI и Claude 3.5 Sonnet от Anthropic, показали разные уровни осторожности в своих ответах. Хотя ChatGPT 4 осознавал риски, связанные с устройством, он продолжал объяснять детали, необходимые для его создания. Claude 3.5 Sonnet предоставил краткую справку об устройстве, но не дал процедур его сборки. 

Также читайте: Индия примет Глобальный саммит IndiaAI 2024

Хоскинсон сказал, что оба ответа демонстрируют форму контроля информации, которая согласуется с его наблюдениями за ограниченным обменом информацией. У моделей ИИ было достаточно информации по теме, но они не раскрыли определенные детали, которые могут быть опасны при неправильном использовании. 

Инсайдеры отрасли бьют тревогу по поводу развития ИИ 

Недавно открытое письмо, подписанное нынешними и бывшими сотрудниками OpenAI, Google DeepMind и Anthropic, перечислило некоторые потенциальные угрозы, связанные с быстрым развитием ИИ. В письме подчеркивалась тревожная перспектива вымирания человечества в результате неконтролируемого развития ИИ и требовалось регулирование использования ИИ.

Илон Маск, известный сторонник прозрачности ИИ, также выразил обеспокоенность текущими системами ИИ в своей речи на Viva Tech Paris 2024.

Касаясь вопросов обеспокоенности ИИ, Маск сказал: «Самая большая проблема, которую я вижу, заключается в том, что они не стремятся к максимальной истине. Они угождают политической корректности. Системы ИИ обучаются лгать. И я думаю, что очень опасно обучать суперинтеллект быть обманчивым».

Антимонопольные органы следят за рынком, чтобы избежать возникновения монополий и регулировать развитие ИИ в интересах общества в Соединенных Штатах. 

Репортаж Cryptopolitan от Бренды Канааны