Видение генерального директора OpenAI Сэма Альтмана по замене «обычных людей» на AGI

В недавнем профиле, опубликованном в журнале New York Magazine, видение генерального директора OpenAI Сэма Альтмана относительно будущего искусственного общего интеллекта (AGI) вызвало недоумение и спровоцировало споры. Использование Альтманом термина «человек со средними способностями» для описания возможностей AGI привело к опасениям, что он представляет будущее, в котором ИИ заменит тех, кого он считает «обычными людьми». 

Дилемма «человека со средними способностями»

Утверждение Альтмана о том, что AGI должен обладать интеллектом, эквивалентным «человеку со средними способностями, которого можно нанять в качестве коллеги», разожгло дебаты о потенциальном влиянии на рынок труда. Это видение подразумевает, что ИИ сможет выполнять различные задачи, которые в настоящее время выполняют человеческие работники, от программирования до практики медицины. Хотя Альтман подчеркивает потенциальные преимущества AGI, трудно не заметить последствия, которые могут привести к потере рабочих мест для многих.

В интервью 2022 года на подкасте Lex Fridman Альтман расширил эту концепцию, предположив, что AGI сможет выполнять задачи, которые обычно выполняются людьми, работающими удаленно за компьютером. Эта идея заставляет некоторых задуматься о том, не сократятся ли в ближайшее время перспективы трудоустройства для тех, кто ведет «средний» образ жизни.

Широкое использование термина «Median»

Стоит отметить, что Альтман не одинок в использовании термина «median» в обсуждениях об AGI. Многие блоги и публикации об ИИ использовали аналогичную терминологию, а CNBC даже опубликовало статью под названием «Как говорить об ИИ как инсайдер», в которой представлена эта концепция. Идея, стоящая за этой терминологией, заключается в том, чтобы описать возможности AGI как находящиеся в диапазоне того, чего может достичь средний или median человек.

Однако это сравнение не обошлось без критиков. Брент Миттельштадт, директор по исследованиям в Оксфордском институте интернета, считает использование термина «median» тревожным и расплывчатым. Он отмечает, что в исследованиях ИИ нет конкретного, измеримого сравнения человеческого интеллекта, что затрудняет определение универсального стандарта того, что составляет «median» человека.

Сложность приравнивания производительности к интеллекту

Одной из ключевых проблем, которые поднимают критики, является смешение производительности с интеллектом. Хотя модели ИИ могут достигать уровня человеческой производительности в определенных задачах, приравнивание этого к человеческому интеллекту поднимает этические и философские вопросы. Генри Шевлин, этик ИИ и профессор Кембриджского университета, отмечает, что дискуссии об интеллекте часто бывают более чувствительными из-за сложной природы человеческого познания.

Критики утверждают, что приписывание агентности, понимания, познания или рассуждения механистическим моделям ИИ упрощает сложность человеческой мысли и сознания. Это сводит людей к простым статистическим средним значениям, что многие считают дегуманизирующим.

Более широкое видение Альтмана

Сэм Альтман — фигура значительного влияния в индустрии ИИ, и его видение выходит за рамки простой замены «обычных людей» на AGI. Он часто обсуждает использование ИИ для решения глобальных проблем, таких как изменение климата, универсальный базовый доход и чистая энергия. Альтман заявил, что миссия OpenAI заключается в обеспечении того, чтобы AGI приносила пользу всему человечеству, если она когда-либо станет реальностью.

Однако, как это часто бывает с амбициозными видениями, существует разнообразие мнений о том, что означает «приносить пользу всему человечеству». Использование Альтманом концепции «человека со средними способностями» подчеркивает сложность согласования его видения с этическими и практическими последствиями разработки AGI.

Споры вокруг видения Сэма Альтмана относительно AGI и использования им термина «человек со средними способностями» подчеркивают сложные этические и практические соображения, присущие разработке ИИ. Хотя цель Альтмана использовать ИИ для решения глобальных проблем заслуживает одобрения, потенциальные последствия замены человеческих работников на AGI заслуживают тщательного рассмотрения.

По мере того как область ИИ продолжает развиваться, ведение содержательного диалога о последствиях технологий ИИ для общества, рынка труда и сути человеческого интеллекта имеет решающее значение. Дебаты вокруг терминологии, используемой в сообществе ИИ, отражают необходимость нюансированного и этического подхода к разработке ИИ — обеспечения того, чтобы преимущества AGI были по-настоящему инклюзивными и справедливыми для всего человечества.