Сотрудники утверждают, что OpenAI и Google DeepMind скрывают риски ИИ 

Несколько нынешних и бывших сотрудников OpenAI и Google DeepMind обвинили свои компании в сокрытии рисков ИИ, которые потенциально могут привести к вымиранию человечества. В открытом письме работники утверждали, что компании ИИ ставят прибыль на первое место, избегая «эффективного [правительственного] надзора».

Также читайте: OpenAI готовит преемника GPT-4 на фоне опасений по поводу безопасности

открытое письмо было подписано 11 бывшими сотрудниками OpenAI, двумя сотрудниками Google DeepMind и поддержано «крестным отцом ИИ» Джеффри Хинтоном, ранее работавшим в Google. В нем говорилось, что стремление к прибыли и пробелы в регулировании позволяют компаниям скрывать угрозы, создаваемые передовым искусственным интеллектом.

ИИ может привести к «вымиранию человечества»

Согласно письму, такие компании, как OpenAI и Google DeepMind, создатель Gemini, не публиковали информацию о недостаточных мерах защиты и уровнях риска их систем, поскольку они не обязаны этого делать.

Без государственного надзора программы ИИ могут нанести серьезный вред людям. Работники предупредили:

"Эти риски варьируются от дальнейшего закрепления существующего неравенства… до потери контроля над автономными системами ИИ, что потенциально может привести к вымиранию человечества."

Как отметили подписанты письма, сами компании ИИ признавали эти риски. В мае 2023 года генеральные директора OpenAI, Anthropic и Google DeepMind подписали открытое письмо Центра безопасности ИИ. Письмо гласило: «Снижение риска вымирания человечества из-за ИИ должно быть глобальным приоритетом наряду с другими рисками планетарного масштаба, такими как пандемии и ядерная война».

Компании ИИ все чаще подвергаются проверке за то, что они ставят новаторские продукты и прибыль выше безопасности и защиты. Создатель ChatGPT, компания OpenAI, отметила обеспокоенность, выраженную в письме, и заявила, что работает над созданием безопасного искусственного интеллекта.

"Мы гордимся нашей историей предоставления самых мощных и безопасных систем ИИ и верим в наш научный подход к решению проблем рисков", — заявила представительница OpenAI Линдси Хелд в интервью New York Times.

"Мы согласны с тем, что строгие дебаты имеют решающее значение с учетом значимости этой технологии, и мы продолжим взаимодействовать с правительствами, гражданским обществом и другими сообществами по всему миру."

Сигнальщики боятся возмездия

Бывшие сотрудники OpenAI и Google заявили, что хотели бы занять роль надзорного органа, пока регуляторы разрабатывают законы, обязывающие разработчиков ИИ публично раскрывать больше информации о своих программах.

Однако соглашения о конфиденциальности и вероятность возмездия со стороны работодателей отталкивают работников от публичного выражения своих опасений. Согласно письму:

"Некоторые из нас обоснованно опасаются различных форм возмездия, учитывая историю таких случаев в отрасли. Мы не первые, кто столкнулся с этими проблемами или заговорил о них."

Сигнальщики защищены законом в США, но те, кто выступает против опасностей искусственного интеллекта, не защищены, поскольку эта технология еще не регулируется.

Также читайте: ChatGPT все еще распространяет ложь, утверждает надзорный орган ЕС

В письме содержался призыв к компаниям ИИ облегчать верифицируемо анонимную обратную связь, поддерживать культуру открытой критики и не применять репрессии против сигнальщиков.

Исследователь ИИ Лэнс Б. Элиот заявил, что компании используют подход «кнута и пряника» в отношении критики. Сотрудникам, которые не высказываются против рисков, поощряют карьерным ростом и повышением зарплаты.

С другой стороны, сигнальщики и критики теряют свои опционы на акции и могут быть вынуждены покинуть компанию и молча занесены в черный список сообществом руководства ИИ.

Криптополитан, репортаж Джеффри Гого