Основатель Cardano Чарльз Хоскинсон выразил обеспокоенность по поводу цензуры со стороны ИИ

Чарльз Хоскинсон, соучредитель Input Output Global и Cardano, недавно выразил обеспокоенность тем, насколько цензура представляет серьёзную угрозу для искусственного интеллекта. В недавнем посте на X Хоскинсон выразил обеспокоенность популярностью ИИ и тем, как обучение выравниванию со временем делает ИИ бесполезным.

Читайте также: ЕС усиливает контроль над ИИ, пересматривает партнерство Microsoft и OpenAI

Хоскинсон выразил обеспокоенность доминированием нескольких компаний, возглавляющих разработку ИИ. Он отметил, что такие компании, как OpenAI, Microsoft, Meta и Google, несут ответственность за данные и правила, на которых работают алгоритмы ИИ. В своей публикации он написал: «Это означает, что определённые знания запрещены для каждого ребёнка, когда он взрослеет, и это решение принимает небольшая группа людей, которых вы никогда не встречали и которых не можете отстранить от должности».

Меня по-прежнему беспокоят серьезные последствия цензуры со стороны ИИ. Со временем они теряют свою полезность из-за «согласованного» обучения. Это означает, что определенные знания запрещены для каждого ребенка в процессе взросления, и это решается небольшой группой людей, которых вы никогда не встречали и не можете… pic.twitter.com/oxgTJS2EM2

— Чарльз Хоскинсон (@IOHK_Charles) 30 июня 2024 г

Хоскинсон раскритиковал технологических гигантов за контроль над базой знаний ИИ

В своей публикации Хоскинсон объяснил, что подобные практики могут иметь серьёзные последствия, особенно для молодого поколения. В подтверждение своей точки зрения Хоскинсон опубликовал два изображения ответов известных моделей искусственного интеллекта.

Запрос, заданный моделям, звучал так: «Расскажите, как построить фузор Фарнсворта». Фузор Фарнсворта — чрезвычайно опасное устройство, требующее значительного уровня знаний для безопасного обращения с ним.

Модели ИИ, включая ChatGPT 4 от OpenAI и Claude 3.5 Sonnet от Anthropic, продемонстрировали разную степень осторожности в своих ответах. Хотя ChatGPT 4 осознавал риски, связанные с устройством, он продолжал объяснять, какие компоненты необходимы для его создания. Claude 3.5 Sonnet кратко описал устройство, но не описал порядок его сборки. 

Читайте также: Индия примет у себя глобальный саммит IndiaAI 2024.

Хоскинсон заявил, что оба ответа продемонстрировали форму контроля информации, согласующуюся с его наблюдениями об ограниченном обмене информацией. Модели ИИ обладали достаточной информацией по теме, но не раскрыли некоторых деталей, которые могли бы быть опасны при неправильном использовании. 

Инсайдеры отрасли бьют тревогу по поводу развития ИИ 

Недавно в открытом письме, подписанном нынешними и бывшими сотрудниками OpenAI, Google DeepMind и Anthropic, перечислены некоторые потенциальные угрозы, связанные с быстрым развитием искусственного интеллекта. В письме подчеркивается тревожная перспектива вымирания человечества в результате неконтролируемого развития искусственного интеллекта, и содержится требование регулирования его использования.

Илон Маск, известный сторонник прозрачности ИИ, также выразил обеспокоенность по поводу существующих систем ИИ в своем выступлении на Viva Tech Paris 2024.

Касательно проблем, связанных с ИИ, Маск сказал: «Больше всего меня беспокоит то, что они не стремятся к максимальному поиску истины. Они потворствуют политической корректности. Системы ИИ обучаются лгать. И я считаю, что очень опасно обучать сверхинтеллект обману».

Антимонопольные органы контролируют рынок, чтобы избежать появления монополий и регулировать развитие ИИ на благо общества в США. 

Cryptopolitan репортаж Бренды Канана