Индустрия искусственного интеллекта сталкивается с критикой за поспешное раскрытие несовершенных ИИ-инструментов

В гонке за доминирование в быстро развивающейся области генеративного искусственного интеллекта технологические гиганты, такие как Google, OpenAI и Amazon, быстро выпускают новые ИИ-продукты, часто с неубедительными результатами. 

Недавние публичные презентации этих ИИ-инструментов выявили значительные недостатки, включая генерацию ложной информации и фактических неточностей. Гонка на рынок этих инноваций вызвала обеспокоенность среди экспертов и регуляторов относительно потенциальных рисков, связанных с непроверенной технологией.

Google представила своего чат-бота Bard, предназначенного для обобщения контента из Gmail и Google Docs, но пользователи быстро обнаружили, что он выдумывает электронные письма, которые никогда не отправлялись. OpenAI продемонстрировала свой генератор изображений Dall-E 3, однако пользователи социальных сетей отметили, что изображения в официальных демонстрациях не соответствовали запрошенным деталям. Amazon объявил о режиме разговора для Alexa, который дал сбой во время демонстрации для The Washington Post, даже порекомендовав музей в неправильном месте.

Эта волна flawed релизов подчеркивает лихорадочное стремление технологической индустрии использовать технологию генеративного ИИ, где машины могут создавать текст, похожий на человеческий, и реалистичные изображения. Эта спешка, движимая страхом упустить выгоду (FOMO), направлена на привлечение большего числа пользователей для генерации данных, необходимых для улучшения этих ИИ-инструментов. Однако эксперты и руководители технологических компаний предупреждают о преждевременном развертывании непроверенных ИИ.

Индустрия признает несовершенство, но продолжает движение вперед

Технологические компании утверждают, что они проинформировали об экспериментальном характере своих ИИ-продуктов и внедрили меры предосторожности для предотвращения оскорбительного или предвзятого вывода. Некоторые утверждают, что знакомство людей с ИИ-инструментами сейчас позволяет лучше понять связанные с ними риски до того, как технология станет более мощной. Несмотря на эти заверения, быстрая и flawed разработка противоречит призывам к осторожности, особенно учитывая потенциал ИИ вводить предвзятость и даже превосходить человеческий интеллект.

Заметно, что обеспокоенность по поводу ИИ привлекла внимание регуляторов. В Соединенных Штатах Конгресс провел слушания и предложил законопроекты для регулирования ИИ, хотя конкретные действия остаются ограниченными. На прошлой неделе технологические руководители, включая Илона Маска и Марка Цукерберга, отвечали на вопросы законодателей, которые рассматривают законодательство для регулирования этой технологии. В Европе законодатели продвигают регулирование, запрещающее некоторые виды использования ИИ, такие как предсказание преступного поведения, и устанавливающее строгие правила для отрасли. В Соединенном Королевстве глобальное сотрудничество по регулированию ИИ стоит в повестке дня крупной конференции в ноябре.

Министр финансов Великобритании Джереми Хант подчеркнул важность нахождения баланса между регулированием и инновациями. Он признал, что конкурентное напряжение стимулирует технологический прогресс, но подчеркнул необходимость регуляторной рамки, которая способствует инновациям, обеспечивая при этом необходимые меры предосторожности.

Проблемы в разработке ИИ сохраняются

Последнее поколение ИИ-инструментов, примером которого служит ChatGPT от OpenAI, привлекло широкое внимание своими возможностями. Эти ИИ-системы, работающие на основе огромных наборов данных из интернета, могут отвечать на сложные вопросы, сдавать профессиональные экзамены и вести разговоры, похожие на человеческие. Однако проблемы сохраняются.

Чат-боты часто генерируют ложную информацию и представляют ее как факт, явление, известное как «галлюцинации». Генераторы изображений быстро улучшаются, но сохраняются опасения относительно их потенциала для создания пропаганды и дезинформации, особенно по мере приближения выборов в США в 2024 году. Кроме того, использование материалов, защищенных авторским правом, для обучения моделей ИИ вызвало юридические споры, когда известные авторы недавно подали в суд на OpenAI за использование их работ в обучении ИИ.