Есть ли достаточные причины для запрета использования ChatGPT?

Краткое содержание

• Некоторые страны запрещают использование ChatGPT из-за опасений по поводу потенциальных этических проблем и возможности использования ИИ во вредных целях.
• Италия запретила использование ChatGPT из-за проблем с конфиденциальностью и утечки данных. 
• Еще семь стран запретили использование ChatGPT из-за государственного контроля над информацией и коммуникацией.
• Географическая блокировка ChatGPT может затруднить инновации и ограничить доступ к технологическим прорывам, ограничивая перспективы роста в цифровом секторе.

Samsung недавно запретила использование инструментов генеративного ИИ, таких как ChatGPT, в своих внутренних сетях и на устройствах, принадлежащих компании из-за опасений, что загрузка конфиденциальной информации на эти платформы представляет собой риск для безопасности, сообщает Bloomberg News.

Риски для конфиденциальности, связанные с использованием ChatGPT, варьируются в зависимости от того, как пользователь получает доступ к сервису. Если компания является API ChatGPT, то разговоры с чат-ботом не видны команде поддержки OpenAI и не используются для обучения моделей компании. Однако это не относится к тексту, введенному в общий веб-интерфейс с использованием настроек по умолчанию.

Одной из основных причин запрета на использование ChatGPT являются потенциальные этические проблемы, связанные с использованием ИИ. Некоторые страны, например, выразили обеспокоенность по поводу возможности использования ИИ для дискриминации определенных групп или нарушения прав на конфиденциальность. Другим источником беспокойства является возможность использования ИИ во вредных целях, таких как кибератаки.

Эффективность запрета на использование ChatGPT

Политика Samsung означает, что она присоединяется к множеству других компаний и учреждений, которые установили ограничения на использование инструментов генеративного ИИ, хотя точные причины ограничений различаются. JPMorgan ограничил их использование из-за проблем с соблюдением нормативных требований, CNN сообщается, в то время как другие банки, такие как Bank of America, Citigroup, Deutsche Bank, Goldman Sachs и Wells Fargo, также либо запретили, либо ограничили использование таких инструментов. Школы Нью-Йорка запретили использование ChatGPT из-за опасений по поводу списывания и дезинформации, в то время как проблемы защиты данных и безопасности детей были названы причиной временного запрета ChatGPT в Италии.

Стоит отметить, что эффективность этих ограничений может быть поставлена под сомнение, поскольку трудно обеспечить соблюдение правил использования ИИ, особенно учитывая глобальный характер технологий. Тем не менее, эти запреты подчеркивают осторожность, с которой некоторые страны подходят к разработке и использованию ИИ, а также необходимость взвешивать возможные преимущества технологии против потенциальных рисков.

Почему Италия запрещает использование ChatGPT?

В пределах своих границ Италия запретила использование ChatGPT, инструмента генеративного ИИ, созданного OpenAI. Италия является первым западным правительством, которое ввело ограничения на использование ChatGPT, сложного чат-бота. Италия является последним правительством, которое ввело технологические ограничения, присоединившись к таким странам, как Китай, Северная Корея, Иран и Россия. Итальянские регуляторы дали OpenAI 20 дней на устранение различных проблем или столкнуться с штрафом до $21,7 миллиона, или 4% от годовой прибыли.

Итальянское управление по защите данных теперь расследует действия OpenAI, вызывая опасения по поводу юридического объяснения, предоставленного компанией для оправдания массового сбора и хранения персональных данных для «обучения» алгоритмов. Регулятор ввел временное ограничение на обработку данных, относящихся к итальянским пользователям, сославшись на опасения по поводу конфиденциальности и безопасности данных итальянских граждан.

Итальянское управление по защите данных также обвинило изобретателя ChatGPT в неисполнении обязанности уведомлять пользователей и другие стороны, чьи данные он приобрел, о своем существовании, что подразумевает, что OpenAI не получал явного согласия от пользователей перед сбором и обработкой их персональных данных.

Кроме того, итальянские власти обнаружили утечку данных, которая могла привести к раскрытию пользовательских коммуникаций и платежных реквизитов. Этот инцидент вызвал дополнительные опасения относительно безопасности ChatGPT и потенциальных рисков, связанных с его использованием.

Страны, запрещающие использование ChatGPT

На момент написания статьи семь стран фактически запретили использование ChatGPT своими правительствами и правящими партиями. В их число входят Россия, Китай, Северная Корея, Куба, Иран, Сирия и Италия.

Во всех этих странах осуществляется строгий государственный контроль над информацией и коммуникациями. Эти правительства могут рассматривать ChatGPT как потенциальную угрозу своему контролю над информационными потоками в пределах своих границ.

Важно отметить, что запреты на использование ChatGPT в этих странах не обязательно означают полную недоступность технологии на их территории. Физические лица могут иметь возможность получать доступ к чат-боту с помощью VPN или других методов. Однако ограничение свидетельствует о том, что правительства этих стран проявляют осторожность при внедрении таких передовых языковых моделей, как ChatGPT.

Случай с Россией

Россия, наряду с Китаем, известна своими строгими правилами в отношении информационного потока. Ранее уже были примеры социальных сетей, таких как российская VK.com, и китайской поисковой системы Baidu, обслуживающей 75 процентов поискового трафика Китая. Это российские и китайские аналоги всемирно известных Facebook и Google. И за созданием этих сайтов стоит серьезная задача: мониторинг информационного потока.

Аналогичным образом, российский банковский институт Сбербанк объявил о разработке и запуске Gigachat, нового ИИ-чатбота. Этот чат-бот планируется запустить для прямой конкуренции с высоко узнаваемой и популярной языковой моделью ChatGPT от OpenAI.

GigaChat — это второй ИИ-чатбот, выпущенный в России, после приостановки работы ChatGPT из-за опасений по поводу дезинформации и незаконного использования.

Утверждается, что GigaChat более интеллектуально общается на русском языке, чем на иностранных, может отвечать на вопросы, поддерживать дискуссии и писать программный код. Тестировщики могут присоединиться через закрытый канал в Telegram, который был выпущен для небольшого сообщества.

Сдерживание инноваций с помощью гео-блокировки

Некоторые правительства ограничивают доступ граждан и бизнеса к ChatGPT, блокируя его по географическому признаку. В результате компаниям может быть сложнее разрабатывать продукты и конкурировать на глобальном уровне. Это также может ограничить доступ к преимуществам ChatGPT, таким как улучшение обслуживания клиентов и более персонализированные беседы.

Гео-блокировка относится к практикам, используемым онлайн-продавцами для ограничения трансграничных онлайн-продаж на основе национальности, места жительства или места регистрации. Практики гео-блокировки включают: отказ в доступе к веб-сайтам из других государств-членов и/или ситуации, когда доступ к веб-сайту предоставляется, но потребителю из-за рубежа препятствуют завершить покупку или просят оплатить покупку дебетовой или кредитной картой из определенной страны.

Регламент (ЕС) 2018/302 («Регламент о гео-блокировке») направлен на предоставление потребителям и предприятиям во внутреннем рынке ЕС больших возможностей. Он решает проблему, при которой некоторые потребители не могут покупать товары и услуги у продавцов, расположенных в другом государстве-члене, из-за их национальности, места жительства или места регистрации.

Что делать в случаях гео-блокировки

Потенциальным недостатком географической блокировки ChatGPT является то, что она может затруднить инновации и ограничить доступ к технологическим прорывам. Это связано с географической блокировкой, которая ограничивает доступ пользователей к чат-боту в определенных странах, потенциально ограничивая возможности для инноваций и роста в цифровом секторе. К счастью, есть простой способ обойти географическую блокировку: подключиться к виртуальной частной сети (VPN). VPN работают, направляя ваш трафик через сервер в другой стране. Это скрывает ваш реальный IP-адрес, который часто используется для определения вашего местоположения, и заменяет его временным IP-адресом, специфичным для страны.

Конечно, существуют веские причины запрещать использование инструмента, когда он представляет опасность и может привести к дальнейшему вреду, например, в школах. Однако не все согласны с идеей запрета ChatGPT в школах; вместо этого они призывают учителей использовать его для более широкого применения.

«Вместо этого я считаю, что школы должны осознанно принять ChatGPT в качестве учебного пособия — инструмента, который может раскрыть творческий потенциал студентов, предложить персонализированное репетиторство и лучше подготовить студентов к работе вместе с системами ИИ во взрослом возрасте». – Кевин Рус, NYT

Заметка напоследок: по сообщениям, Samsung планирует в конечном итоге позволить своим сотрудникам использовать инструменты ИИ, но, похоже, она ждет развития собственных решений. Каково ваше мнение по вопросу запрета использования ChatGPT?