Глава ИИ Meta говорит, что рано беспокоиться о AGI

Главный специалист Meta по ИИ, Ян ЛеКун, заявил, что рано начинать беспокоиться об интеллектуальных системах ИИ уровня человека, обычно называемых AGI. Комментарий ЛеКуна прозвучал на фоне продолжающихся дебатов о влиянии AGI на существование человечества. 

Также читайте: Более подробный взгляд на спекуляции вокруг AGI

«Прямо сейчас у нас даже нет намёка на дизайн интеллектуальной системы уровня человека», — написал ЛеКун в понедельник в X. «Так что слишком рано беспокоиться об этом. И слишком рано регулировать это, чтобы предотвратить «экзистенциальный риск».”

ИИ не может просто стать опасным, говорит ЛеКун

Многие эксперты считают, что до достижения AGI еще десятилетия или даже столетия. Однако это вызывает обеспокоенность среди правительств, так как эксперты предупреждают, что такие модели могут угрожать существованию человечества. 

Также читайте: Google, OpenAI и 13 других обязуются не развертывать рискованные модели ИИ

ЛеКун считает, что системы ИИ — это «некий природный феномен, который просто возникнет и станет опасным». Он сказал, что у людей есть сила сделать ИИ безопасным, потому что именно мы его создаем. 

ИИ — это не некий природный феномен, который просто возникнет и станет опасным.
*МЫ* проектируем его и *МЫ* строим его.

Я могу представить тысячи сценариев, когда турбовентиляторный двигатель выходит из строя.
Тем не менее, нам удалось сделать турбовентиляторные двигатели невероятно надежными до их широкого развертывания.…

— Yann LeCun (@ylecun) Май 27, 2024

«Я могу представить тысячи сценариев, когда турбовентиляторный двигатель выходит из строя. Тем не менее, нам удалось сделать турбовентиляторные двигатели невероятно надежными до их широкого развертывания», — добавил ЛеКун. «Вопрос аналогичен для ИИ».

Главный специалист Meta по ИИ говорит, что LLM не могут достичь человеческого интеллекта

На прошлой неделе ЛеКун также высказал мнение, что большие языковые модели, которые питают популярные ИИ-чатботы, такие как ChatGPT, Gemini и др., не могут достичь человеческого интеллекта. 

Также читайте: ChatGPT-4o от OpenAI способен проявлять чувства и эмоции

Винтервью Forbes ЛеКун сказал, что LLM имеют «ограниченное понимание логики», поскольку они должны обучаться и могут работать только так же хорошо, как и данные, которые им подаются. Он далее отметил, что LLM «интринсически небезопасны» и что исследователи, стремящиеся создать системы ИИ уровня человека, должны рассмотреть другие типы моделей.

OpenAI и Meta подтвердили заинтересованность в создании AGI

Разработчик ChatGPT, компания OpenAI, планирует создать такие мощные модели. В мае сооснователь Сэм Альтман заявил, что они создадут AGI любой ценой.

"Неважно, сожжем ли мы 500 миллионов долларов в год или 5 миллиардов — или 50 миллиардов долларов в год. Мне все равно, по-настоящему. Пока мы сможем найти способ оплачивать счета, мы будем создавать AGI. Это будет дорого."

Сэм Альтман

Meta также начала прилагать усилия к достижению человеческого уровня интеллекта. В январеМарк Цукерберг признал, что «долгосрочное видение Meta — создать общий интеллект, ответственно открыть его исходный код и сделать его широко доступным, чтобы каждый мог извлечь выгоду».

 Репортаж Cryptopolitan от Ибиам Вайас