Неофициальное использование Министерством обороны ChatGPT вызывает обеспокоенность
- Несанкционированный доступ сотрудников Министерства обороны к ChatGPT подчеркивает риски для безопасности данных, связанные с новыми ИИ-сервисами.
- В правительстве отсутствуют четкие руководящие принципы использования ИИ, что вызывает опасения по поводу утечек данных и нарушений конфиденциальности.
- Сенатор от партии «Зеленых» призывает разработать надежные политики регулирования ИИ в государственном секторе, чтобы предотвратить несанкционированный доступ к данным и защитить конфиденциальную информацию.
В поразительном открытии стало известно, что сотрудники Министерства обороны получили доступ к серверам чат-бота ChatGPT без надлежащего разрешения, используя сервис тысячи раз. Эти несанкционированные подключения осуществлялись через веб-домен компании OpenAI, стоящей за ChatGPT, что вызвало опасения по поводу потенциальных утечек данных и нарушений конфиденциальности. Инцидент побудил Министерство обороны немедленно ограничить доступ к веб-домену OpenAI, чтобы предотвратить дальнейшее несанкционированное использование и потенциальные риски для безопасности.
Вопросы несанкционированного доступа и утечки данных
Документы, полученные в рамках запроса о свободе информации от Crikey, показывают, что сотрудники Министерства обороны, используя такие устройства, как компьютеры и смартфоны, подключались к веб-страницам в домене OpenAI.com примерно 5630 раз за шесть месяцев, с 1 декабря 2022 года по 30 июня 2023 года. Паттерн подключений предполагает, что пользователи получали доступ к домену через онлайн-веб-интерфейс, вероятно, исключая сторонние сервисы или приложения для смартфонов, предлагаемые OpenAI.
Линейка продуктов ИИ от OpenAI
OpenAI.com является хостинговой платформой для ряда продуктов ИИ, разработанных компанией, включая ChatGPT, который был первоначально запущен 30 ноября 2022 года. Платформа также размещает другие продукты ИИ, такие как генератор изображений DALL-E-2 и GPT-4, а также различные другие веб-страницы, связанные с OpenAI.
Реакция Министерства обороны
В ответ на эти несанкционированные подключения Министерство обороны приняло меры по ограничению дальнейшего доступа к сервисам OpenAI. Уполномоченное лицо департамента Дэвид Эванс подчеркнул, что доступ к продуктам OpenAI, особенно «онлайн-сервисам ИИ, таким как ChatGPT», не был одобрен департаментом. Ограничение доступа направлено на предотвращение любой потенциальной компрометации засекреченной или частной информации, защищая конфиденциальные данные.
Неотвеченные вопросы
Несмотря на действия, предпринятые Министерством обороны, остается несколько вопросов относительно характера несанкционированных подключений и хронологии событий. Департамент признал получение запроса от СМИ от Crikey. Тем не менее, он не указал, какие подключения произошли до введения ограничений, когда они были введены, или были ли приведены какие-либо законные причины для разрешения доступа, несмотря на ограничения.
Отсутствие четкой государственной политики
Интересно, что федеральные департаменты не имеют всеобъемлющих общегосударственных руководств, касающихся использования продуктов генеративного ИИ, таких как ChatGPT. Ранее в этом году Агентство цифровых преобразований выразило осторожную поддержку экспериментам государственных служащих с такими ИИ-сервисами, посоветовав, что, хотя эксперименты не discouraged, следует провести тщательную оценку потенциальных рисков. Однако никаких конкретных правил или руководств выпущено не было.
Призыв к надежному регулированию
Сенатор от Гринс от Нового Южного Уэльса и представитель по цифровым правам Дэвид Шубридж выразил глубокую обеспокоенность по поводу несанкционированного использования ИИ-сервисов сотрудниками Министерства обороны. Шубридж отметил, что большое количество несанкционированных подключений указывает на отсутствие всеобъемлющей политики для решения проблем безопасности, posed emerging technologies. Он призвал к внедрению новых политик и правил, регулирующих использование генеративного ИИ в государственных учреждениях, особенно учитывая наличие конфиденциальной и засекреченной информации. Шубридж подчеркнул важность совершенствования мер безопасности, чтобы предотвратить подобные инциденты в будущем.
Несанкционированное использование ChatGPT сотрудниками Министерства обороны подчеркивает насущную необходимость четких правил и руководств, регулирующих использование ИИ-сервисов в государственных департаментах. Инцидент осветил потенциальные риски несанкционированного доступа к данным и нарушений конфиденциальности, подчеркивая важность надежных мер безопасности в эпоху развивающихся технологий. То, как правительство ответит на эти опасения, и будут ли приняты всеобъемлющие политики для решения проблем безопасности, posed AI-сервисами, остается неизвестным.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
