Миссия OpenAI: баланс между прибылью и этичной разработкой ИИ

OpenAI, известная лаборатория по исследованиям в области искусственного интеллекта, произвела фурор в 2019 году, когда объявила о переходе из некоммерческой организации в коммерческую компанию. Этот шаг ознаменовал значительное отступление от ее более ранней миссии и вызвал вопросы о будущем этичной разработки ИИ. В этой статье мы рассмотрим причины преобразования OpenAI, его последствия и продолжающуюся борьбу за власть в индустрии ИИ.

Некоммерческое начало

OpenAI была основана в 2015 году как некоммерческая исследовательская лаборатория в Кремниевой долине с амбициозной миссией продвигать развитие искусственного интеллекта на благо всего общества. Ее основатели, включая таких известных фигур, как Илон Маск и Сэм Альтман, стремились создать страховочную сеть, которая позволила бы исследователям изучать весь потенциал ИИ, не компрометируя безопасность или этику.

Одной из ранних инициатив OpenAI был выпуск OpenAI Gym — набора инструментов для создания систем ИИ с использованием обучения с подкреплением. Кроме того, они представили «Universe», программную платформу для оценки и улучшения общего интеллекта ИИ через различные приложения и игры.

Однако в 2018 году Илон Маск покинул совет директоров OpenAI из-за воспринимаемого конфликта интересов с исследованиями ИИ Tesla для автономного вождения. Несмотря на это, он остался донором организации.

Как некоммерческая организация, OpenAI сталкивалась с финансовыми ограничениями при достижении своих исследовательских целей. Хотя их миссия была благородной, организации приходилось тщательно управлять бюджетом для разработки передовых технологий ИИ. OpenAI считала, что открытость и некоммерческий статус позволят им сосредоточиться на позитивном влиянии на общество без финансовых обязательств.

Переход к коммерческой модели

В 2019 году OpenAI сделала прорывное объявление — она создала OpenAI LP, корпорацию с ограниченной прибылью, чтобы перейти к коммерческой модели, сохраняя при этом свою миссию. Это решение было обусловлено несколькими факторами, включая необходимость значительных инвестиций в облачные вычисления, привлечение талантов и суперкомпьютеры для ИИ.

Одной из ключевых причин, названных для перехода, была проблема безопасности. Команда безопасности OpenAI считала, что публикация всей их работы в открытом доступе может спровоцировать misuse, такой как плагиат, боты, фальшивые отзывы и спам. Поэтому они решили скрыть некоторые технологии ИИ.

Баланс между прибылью и этикой

Переход OpenAI к коммерческой модели вызвал вопросы о ее приверженности этичной разработке ИИ. Чтобы решить эти проблемы, компания приняла структуру с ограниченной прибылью. Инвесторы первого раунда получат максимальную доходность в 100 раз от их первоначальных инвестиций, что предотвратит чрезмерное накопление богатства.

Хотя Илон Маск изначально указал на конфликт интересов как причину ухода из OpenAI, сообщения предполагают, что его уход был связан с отклоненным предложением о поглощении компании и конкуренции с Google. Его уход также привел к приостановке значительного запланированного пожертвования.

После ухода Элона Маска Microsoft инвестировала 1 миллиард долларов в OpenAI, получив эксклюзивные права на лицензирование модели GPT-3 и став эксклюзивным облачным провайдером. Это сотрудничество позволило OpenAI построить суперкомпьютер для обучения крупномасштабных моделей, что привело к инновациям, таким как ChatGPT и DALL-E.

Будущее OpenAI

Основная цель OpenAI остается прежней — разработка систем ИИ, которые положительно влияют на общество. Она стремится сотрудничать с исследовательскими и политическими институтами для продвижения безопасности в разработке AGI. Однако конкуренция в индустрии ИИ продолжает усиливаться, при этом Илон Маск активно продвигает конкурирующий стартап.

Несмотря на решение Сэма Альтмана отказаться от акций в коммерческой структуре, чтобы оставаться верным первоначальной миссии, подозрения относительно сдвига OpenAI от открытости к закрытости сохраняются. Компания продолжает расширять границы исследований и разработки ИИ, оставляя нас заинтригованными тем, что они раскроют дальше.

Решение расстаться с Самом Альтманом из совета директоров OpenAI может быть обусловлено несколькими факторами. К ним относятся значительные расходы, связанные с обучением и эксплуатацией передовых моделей ИИ, а также проблемы, связанные с перебоями в работе системы и вопросами мощности. Кроме того, возникли опасения относительно получения обучающих данных из интернета и необходимости внедрения мер предосторожности для вывода модели.

Еще одной потенциальной точкой разногласий было последовательное подчеркивание Альтманом потенциального негативного влияния ИИ на общество, точка зрения, которую некоторые эксперты считают преувеличенной. Он также выступал за тип общего искусственного интеллекта, который многие считали нежелательным.

Кроме того, могли существовать разногласия относительно сдвига OpenAI в сторону коммерциализированной, коммерческой направленности, которая отличалась от ее первоначальной некоммерческой ориентации.