Миссия OpenAI: баланс между прибылью и этичным развитием искусственного интеллекта

OpenAI, известная лаборатория по исследованию искусственного интеллекта, произвела фурор в 2019 году, объявив о своем переходе от некоммерческой организации к коммерческой компании. Этот шаг ознаменовал собой значительный отход от ее прежней миссии и поднял вопросы о будущем этичной разработки ИИ. В этой статье мы рассмотрим причины OpenAI , ее последствия и продолжающуюся борьбу за власть в индустрии ИИ.

Начало некоммерческой деятельности

OpenAI была основана в 2015 году как некоммерческая исследовательская лаборатория в Силиконовой долине с амбициозной миссией — развивать искусственный интеллект на благо всего общества. Ее основатели, в том числе такие известные личности, как Илон Маск и Сэм Альтман, стремились создать систему защиты, которая позволила бы исследователям изучить весь потенциал ИИ, не ставя под угрозу безопасность или этичность.

Одной из первых инициатив OpenAI стал выпуск OpenAI Gym, набора инструментов для создания систем искусственного интеллекта с использованием обучения с подкреплением. Кроме того, они представили «Universe», программную платформу для оценки и повышения общего интеллекта ИИ с помощью различных приложений и игр.

Однако в 2018 году Илон Маск покинул совет директоров OpenAI из-за предполагаемого конфликта интересов с исследованиями Tesla в области искусственного интеллекта для автономного вождения. Несмотря на это, он остался спонсором организации.

Будучи некоммерческой организацией, OpenAI столкнулась с финансовыми ограничениями при достижении своих исследовательских целей. Несмотря на благородную миссию, организации приходилось тщательно управлять своим бюджетом для разработки передовых технологий искусственного интеллекта. OpenAI считала, что открытость и некоммерческий характер позволят ей сосредоточиться на позитивном влиянии на людей, не неся при этом финансовых обязательств.

Переход к коммерческой деятельности

В 2019 году компания OpenAI сделала революционное заявление – она создала OpenAI LP, корпорацию с ограниченной прибылью, чтобы перейти к коммерческой модели, сохранив при этом свою миссию. Это решение было обусловлено несколькими факторами, включая необходимость существенных инвестиций в облачные вычисления, привлечение талантов и суперкомпьютеры для искусственного интеллекта.

Одной из ключевых причин перехода стала обеспокоенность по поводу безопасности. Команда OpenAI по вопросам безопасности считала, что публикация всех их разработок в открытом доступе может привести к злоупотреблениям, таким как плагиат, использование ботов, поддельные отзывы и спам. Поэтому они решили не публиковать некоторые технологии искусственного интеллекта.

Баланс между прибылью и этикой

Переход OpenAI к коммерческой деятельности вызвал вопросы о приверженности компании этичному развитию ИИ. Для решения этих проблем компания ввела систему ограничения прибыли. Инвесторы первого раунда получат максимальную прибыль в размере 100-кратного размера первоначальных инвестиций, что предотвратит чрезмерное накопление капитала.

Хотя Илон Маск первоначально сослался на конфликт интересов как причину ухода из OpenAI, сообщения указывают на то, что его уход был вызван отклоненным предложением о поглощении компании и конкуренции с Google. Его уход также привел к удержанию значительной суммы запланированного пожертвования.

После ухода Илона Маска Microsoft инвестировала 1 миллиард долларов в OpenAI, получив эксклюзивные лицензионные права на модель GPT-3 и став эксклюзивным поставщиком облачных услуг. Это сотрудничество позволило OpenAI создать суперкомпьютер для обучения крупномасштабных моделей, что привело к таким инновациям, как ChatGPT и DALL-E.

Будущее OpenAI

Главная цель OpenAI по-прежнему заключается в разработке систем искусственного интеллекта, оказывающих положительное влияние на общество. Компания стремится к сотрудничеству с научно-исследовательскими и политическими учреждениями для обеспечения безопасности при разработке систем общего искусственного интеллекта. Однако конкуренция в индустрии ИИ продолжает усиливаться, и Илон Маск активно разрабатывает конкурирующий стартап.

Несмотря на решение Сэма Альтмана отказаться от доли в коммерческой организации, чтобы оставаться верным первоначальной миссии, сохраняются подозрения относительно перехода OpenAI от открытой к закрытой модели. Компания продолжает расширять границы исследований и разработок в области искусственного интеллекта, и нам интересно, что она представит дальше.

Решение расстаться с Сэмом Альтманом из совета директоров OpenAI можно объяснить несколькими факторами. К ним относятся значительные расходы, связанные с обучением и эксплуатацией сложных моделей ИИ, а также проблемы, связанные со сбоями в системе и нехваткой ресурсов. Кроме того, возникли опасения по поводу получения обучающих данных из интернета и необходимости внедрения мер защиты выходных данных модели.

Ещё одним потенциальным спорным моментом стало постоянное акцентирование Альтманом потенциального негативного влияния ИИ на общество, точка зрения, которая, по мнению некоторых экспертов, могла быть преувеличена. Он также отстаивал определённый тип общего искусственного интеллекта, который многие считали нежелательным.

Кроме того, могли возникнуть разногласия по поводу перехода OpenAI к коммерческой направленности, что отличалось от ее первоначальной некоммерческой ориентации.