Визионер, предостерегающий от опасностей ИИ

Илья Сутскер, видная фигура в мире искусственного интеллекта, недавно попал в заголовки новостей из-за своего осторожного подхода к разработке ИИ, особенно в контрасте с готовностью к риску Сэма Альтмана, генерального директора OpenAI.

Эта дихотомия мнений вызвала значительную перестановку в руководстве организации. В этой статье мы подробно рассмотрим биографию Илья Сутскера, его карьеру и факторы, питающие его скептицизм в отношении ИИ.

Родившись в Советской России в 1986 году и выросший в Иерусалиме с пяти лет, академический путь Илья Сутскера привел его в Торонтский университет. Там он получил степень бакалавра наук по математике в 2005 году, а затем степень магистра наук по компьютерным наукам в 2007 году. 

Он продолжил свое стремление к знаниям и получил степень доктора философии по компьютерным наукам в 2013 году. Ранняя работа Сутскера в Торонтском университете отличалась экспериментальным программным обеспечением, генерирующим бессмысленные записи, похожие на статьи в Википедии.

Карьера Сутскера значительно изменилась в 2012 году, когда он соавтором groundbreaking paper с Алексом Крижевским и Джеффом Хинтоном, своим научным руководителем, которого часто называют «отцом ИИ». Это сотрудничество привело к созданию AlexNet, алгоритма глубокого обучения, продемонстрировавшего беспрецедентные возможности распознавания образов. Этот проект, названный AlexNet, продемонстрировал огромный потенциал глубокого обучения в решении задач распознавания образов.

Переход в Google и вклад

Впечатленные их новаторской работой, Google быстро наняли Сутскера и его коллег-исследователей. В Google Сутскер продолжал расширять границы ИИ. Он расширил возможности распознавания образов AlexNet с изображений на слова и предложения, продемонстрировав универсальность этой технологии. Кроме того, он сыграл ключевую роль в разработке TensorFlow, продвинутой платформы с открытым исходным кодом для машинного обучения.

Менее чем за три года в Google Илья Сутскер был заманен Илоном Маском, генеральным директором Tesla, чтобы стать соучредителем и главным ученым в OpenAI, некоммерческой компании по разработке ИИ. Маск, соучредитель OpenAI, разделял опасения Сутскера относительно потенциальной опасности ИИ. Уход Маска из OpenAI в 2018 году, вызванный конфликтом интересов с Tesla, оставил Сутскера во главе организации.

Растущая осторожность в вопросах безопасности ИИ

В период своего пребывания в OpenAI Сутскер все больше сосредотачивался на безопасности ИИ. Он выступал за выделение большего количества ресурсов внутри компании для решения рисков, связанных с системами ИИ. Примечательно, что он возглавил команду Superalignment OpenAI, которая выделяла 20% вычислительных мощностей на управление рисками, связанными с ИИ.

Столкновение между осторожным подходом Сутскера и желанием Сэма Альтмана к быстрому развитию ИИ достигло кульминации в руководстве OpenAI. Сутскер и члены совета директоров, разделяющие его взгляды, организовали отстранение Альтмана, временно заменив его Эмметтом Широм, который придерживался более осторожной позиции. Однако это решение было недолговечным, так как позже Сутскер выразил сожаление по поводу своей роли в событиях, что привело к восстановлению Альтмана в должности генерального директора.

Скептицизм Илья Сутскера в отношении безопасности ИИ глубоко укоренен в его вере в потенциальную опасность неконтролируемого развития ИИ. Он выражал обеспокоенность по поводу быстрого развертывания мощных моделей ИИ, таких как ChatGPT, и необходимости надежных мер безопасности. 

Преданность Сутскера обеспечению ответственного развития ИИ очевидна в его заявлениях сотрудникам OpenAI, где он подчеркивал важность ощущения влияния AGI (Общего искусственного интеллекта) в повседневной жизни.

Сбалансированный оптимизм и цинизм

Взгляды Сутскера на ИИ характеризуются уникальным балансом оптимизма и цинизма. Он видит в ИИ решение многих текущих проблем человечества, включая безработицу, болезни и бедность. Однако он признает потенциальные недостатки, предупреждая о таких проблемах, как распространение фейковых новостей, экстремальные кибератаки и разработка полностью автоматизированного ИИ-оружия. Его опасения распространяются на управление AGI, подчеркивая важность правильного программирования для предотвращения нежелательных результатов.

В отличие от некоторых крайних взглядов в сообществе ИИ, предсказывающих катастрофические сценарии, Сутскер придерживается более умеренной перспективы. Он сравнивает отношения между людьми и AGI с тем, как люди взаимодействуют с животными. Хотя люди испытывают привязанность к животным, они не спрашивают разрешения у животных при строительстве инфраструктуры, такой как шоссе. Аналогично, Сутскер предполагает, что люди могут отдавать приоритет своим собственным потребностям, когда речь идет об AGI.