OpenAI представляет грантовую программу на 1 миллион долларов для революционизации управления ИИ

OpenAI, организация, стоящая за чат-ботом ИИ ChatGPT, представила инициативу, направленную на содействие более широкому демократическому участию в разработке искусственного интеллекта. В недавнем объявлении от 25 мая OpenAI раскрыла планы по присуждению десяти грантов, каждый на сумму 100 000 долларов, для поддержки экспериментов, сосредоточенных на создании «доказательства концепции» демократического процесса для определения правил, которым должны следовать системы ИИ.

Компания подчеркнула, что эти правила должны соответствовать правовым границам и ставить во главу угла благо человечества. OpenAI рассматривает эту грантовую программу как шаг к созданию демократических процессов для надзора за AGI (Общим Искусственным Интеллектом) и, в конечном итоге, надсуперинтеллектом. Эксперименты, проводимые в рамках этих грантов, послужат основой для более масштабного и амбициозного глобального проекта в будущем. OpenAI уточнила, что выводы, сделанные на основе этих экспериментов, не будут иметь обязательной силы, но внесут вклад в исследование важных вопросов управления ИИ.

Гранты финансируются из некоммерческого подразделения OpenAI, и организация намерена сделать результаты проекта общедоступными. Эта инициатива возникает на фоне того, как правительства по всему миру рассматривают возможность внедрения регулирования для генеративного ИИ общего назначения. 

Принятие OpenAI

Генеральный директор OpenAI Сэм Альтман недавно общался с европейскими регуляторами, чтобы подчеркнуть важность стимулирования инноваций через нерестриктивные правила. Альтман также выступил с показаниями перед Конгрессом США, передав аналогичное сообщение.

Объявление OpenAI согласуется с убеждением, что законы должны быть специально адаптированы к технологии, что подчеркивает необходимость более сложных и гибких руководящих принципов, регулирующих поведение ИИ. Организация задала провокационные вопросы, такие как то, как спорные мнения должны быть представлены в выводах ИИ, подчеркнув, что ни одна отдельная сущность, будь то человек, компания или страна, не должна единолично диктовать такие решения.

Ранее компания предупреждала о потенциальном появлении сверхчеловеческого ИИ в течение следующего десятилетия, если разработка не будет подходить осмысленно, подчеркивая важность «сделать это правильно». Новая грантовая программа организации стремится способствовать инклюзивности и общественному участию в формировании будущего развития ИИ, в конечном итоге стремясь к ответственному и полезному развитию технологии.