Является ли открытие исходного кода больших языковых моделей хорошим способом стимулирования инноваций?

Краткое содержание

• Джеффри Хинтон, крестный отец ИИ, выражает обеспокоенность по поводу открытого исходного кода моделей ИИ, предупреждая о возрастающих рисках и злоупотреблениях.
• Хинтон предлагает контролируемое развитие, возглавляемое крупными компаниями, чтобы обеспечить ответственное использование ИИ.
• Сторонники открытых LLM утверждают, что ограничения ограничивают творчество и инновации.

Джеффри Хинтон, известная фигура в области искусственного интеллекта (ИИ) и часто называемый «крестным отцом ИИ», выразил обеспокоенность по поводу потенциальных рисков, связанных с открытием исходного кода моделей ИИ, особенно больших языковых моделей (LLM). Хинтон, известный своими новаторскими вкладом в нейронные сети, считает, что предоставление такого кода в свободный доступ в Интернете может иметь пагубные последствия и увеличить опасности, связанные с ИИ.

Позиция Хинтона проистекает из его убеждения, что технологии, лежащие в основе ИИ, особенно LLM, имеют потенциал для злоупотреблений и эксплуатации, если попадут в неправильные руки. Большие языковые модели, такие как GPT-3 от OpenAI, разработаны для генерации текста, похожего на человеческий, и обладают огромной способностью обучаться на огромных объемах данных. Они продемонстрировали впечатляющие возможности в различных приложениях, включая перевод языков, генерацию контента и даже автодополнение кода.

Темная сторона LLM

Джеффри Хинтон недавно выразил свою обеспокоенность по поводу движения с открытым исходным кодом, окружающего большие языковые модели (LLM), и их потенциальных проблем. Недавно покинув свою должность в Google, чтобы свободно высказывать свое мнение о развитии ИИ, Хинтон считает, что ограничение LLM лабораториями таких компаний, как OpenAI, может оказаться полезным. Он предполагает, что подход к контролируемому развитию, с несколькими крупными компаниями из разных стран, ведущими разработку, позволит одновременно развивать технологию и устанавливать методы обеспечения ее ответственного использования. 

Хинтон подчеркнул, что открытые источники ИИ повышают риск того, что лица с злонамеренными намерениями смогут использовать технологию вредоносными и непредсказуемыми способами.

Хинтон также считает, что момент, когда сверхинтеллектуальный ИИ превзойдет человеческий интеллект, не за горами, упомянув, что видит признаки интеллекта в таких моделях, как GPT-4. Он пересмотрел свою предыдущую оценку в 50–100 лет и теперь считает более вероятным, что это произойдет в течение следующих пяти–20 лет.

Как открытые LLM способствуют успеху бизнеса

Открытые большие языковые модели (LLM) становятся все более доступными в сети, предоставляя доступ к мощным возможностям ИИ. На фоне этой тенденции поставщики программного обеспечения используют растущий спрос со стороны бизнеса на настраиваемые и устанавливаемые LLM, которые можно обучать на проприетарных данных. Одним из заметных релизов в этом сегменте стал Dolly 2.0 от Databricks, получивший признание как первая открытая LLM, следящая за инструкциями и специально разработанная для коммерческого использования. Имея функциональность, аналогичную ChatGPT, Dolly 2.0 позволяет организациям запускать модель на собственной инфраструктуре, обеспечивая больший контроль и гибкость.

Смягчение опасностей ИИ: инициатива раннего предупреждения DeepMind

DeepMind, лаборатория ИИ, принадлежащая бывшему работодателю Хинтона компании Google, объявила о разработке системы раннего предупреждения, предназначенной для выявления потенциальных рисков, связанных с ИИ. Эта система направлена на решение проблем, поднятых Хинтоном, и повышение способности обнаруживать и смягчать любые потенциальные опасности, возникающие из-за технологий ИИ. Эта инициатива демонстрирует постоянные усилия в отрасли по проактивному управлению рисками и обеспечению ответственного развития и развертывания ИИ.

Позиция сторонников открытых LLM

Сторонники открытых LLM утверждают, что они обладают потенциалом демократизировать доступ к таким системам ИИ, как ChatGPT, способствуя инновациям за счет снижения барьеров для экспериментов. Они считают, что, делая эти технологии общедоступными, более широкая общность людей сможет внести вклад в развитие области. Существует значительное количество энтузиастов, стремящихся исследовать и внедрять инновации с использованием ИИ, и сторонники открытых моделей считают важным дать этим людям возможность реализовать свой коллективный потенциал.