OpenAI создает группу по согласованию действий для использования мнений общественности в целях развития ИИ

Ведущий стартап в области искусственного интеллекта OpenAI объявил о создании новой команды, занимающейся интеграцией общественного мнения в разработку и поведение своих моделей ИИ. Команда Collective Alignment, представленная 16 января, является прямым результатом грантовой программы, инициированной OpenAI в мае, в рамках которой было выделено 1 миллион евро на десять проектов. Эти проекты были сосредоточены на экспериментах с «демократическим подходом к ИИ» — новаторским методом, направленным на включение более широкого спектра точек зрения и проблем в управление ИИ.

Краудсорсинг в вопросах этики ИИ в демократическом подходе

В состав недавно сформированной команды войдут исследователи и инженеры из разных слоев общества, которым будет поручено создание систем, активно учитывающих мнение общественности. Такой подход направлен на решение ряда актуальных проблем, таких как цифровое неравенство, поляризация групп и представительство различных точек зрения в разработке ИИ. Привлекая внешних консультантов и команды, работающие с грантами, команда Collective Alignment планирует запустить пилотные программы, которые проверят интеграцию общественного мнения в механизмы управления моделями ИИ.

Эта инициатива соответствует приверженности OpenAI демократическому процессу определения руководящих принципов систем искусственного интеллекта. Как указано в майском сообщении в блоге, компания defiдемократический процесс как процесс, «включающий в себя широко представительную группу людей, которые обмениваются мнениями, участвуют в дискуссионных обсуждениях и принимают решения посредством прозрачного процесса принятия решений». Команда Collective Alignment воплощает этот принцип, работая над тем, чтобы разработка ИИ была не только технически обоснованной, но и имела демократическую основу.

Глобальное участие и прозрачность в управлении искусственным интеллектом

Одним из ключевых аспектов этой инициативы является ее глобальный охват. Предоставляя гранты по всему миру, OpenAI стремится собрать широкий спектр мнений и идей, тем самым обогащая процесс разработки ИИ разнообразными точками зрения. Такой подход также решает растущие проблемы, связанные с использованием ИИ в разработке политики, и необходимостью прозрачности в применении ИИ в демократических процессах. Пост-обсуждения в рамках грантовой программы показали, что участие общественности может повысить оптимизм в отношении роли ИИ в обществе, что свидетельствует о положительном влиянии на общественное восприятие, когда приоритет отдается прозрачности и участию.

Более того, стремление OpenAI делиться кодом и краткими обзорами работы в рамках грантовой программы подчеркивает ее приверженность открытости и сотрудничеству. Предоставляя эти ресурсы, компания способствует более инклюзивному и информированному диалогу об ИИ, обеспечивая более широкое участие в формировании будущего этой технологии.

Объединяя усилия ради ответственного будущего в сфере искусственного интеллекта

Для создания сильной и междисциплинарной команды OpenAI активно ищет выдающихся инженеров-исследователей с различным техническим образованием. Цель состоит в том, чтобы собрать команду, способную решать сложные и многогранные задачи, связанные с согласованием развития ИИ с различными общественными интересами. Объявление компании о приеме заявок — это открытое приглашение для экспертов со всего мира внести свой вклад, используя свои навыки и взгляды в этом новаторском проекте.

Создание команды Collective Alignment — важный шаг на пути OpenAI к ответственному развитию ИИ. Интегрируя общественное мнение и демократические процессы в управление ИИ, компания устанавливает новый стандарт в этой области, признавая важность этических соображений и социального воздействия на разработку технологий. По мере того как ИИ продолжает развиваться и проникать в различные аспекты жизни, подобные инициативы становятся все более важными для обеспечения того, чтобы технология развивалась таким образом, который был бы полезен и приемлем для общества в целом.