Призывы к стратегическому сотрудничеству для борьбы с угрозами безопасности ИИ

Национальный институт стандартов и технологий (NIST), подобно белой горе, работает под эгидой федерального правительства, и его основная задача — разработка новой политики, которая будет решать безопасности данных, конфиденциальности и общественной ответственности, связанные с растущим успехом искусственного интеллекта (ИИ).

Растущие киберриски, обусловленные использованием искусственного интеллекта

Хотя назначение министра торговли США в прошлом году Национального института стандартов и технологий (NIST) для разработки нового стандарта безопасности для ИИ открыло новые возможности, только выделение финансирования, превышающего имеющиеся ресурсы, и реализация стратегий развития этой области позволят убедиться в готовности и способности NIST эффективно руководить столь амбициозным проектом.

Внедрение ИИ в сферу киберугроз значительно ускорило работу хакеров. Аналитические отчеты прогнозируют, что оборот этой отрасли к 2025 году взлетит до 10,5 квадриллионов долларов, поскольку системы ИИ станут более мощными и неотъемлемой частью системы.

Искусственный интеллект позволяет хакерамtracсвою работу, создавая все более сложные штаммы вирусов и осуществляя цифровую обработку видео- и голосового контента, что создает пугающую картину так называемых «дипфейков» — глобальных кампаний по дезинформации. Этическое внедрение ИИ и минимизация упомянутых рисков являются сегодня приоритетной задачей экономической и национальной безопасности.

В рамках новой директивы NIST, безопасное проектирование ИИ предусматривает отдельный стандарт, который позволит проводить строгие программы тестирования, направленные на ответственное коммерческое использование контроллеров ИИ и систем высокого риска.

Стратегическое сотрудничество

В здании, где сейчас располагается научно-исследовательское учреждение, услуги NIST работают от автономного электропитания, поскольку в бюджет не заложены средства на техническое обслуживание, что привело к зафиксированным протечкам и появлению плесени. В федеральном бюджете на предстоящий год предлагается сократить финансирование NIST, которое уже заморожено, еще на 10%.

Обеспечение финансовых потребностей для ответственного управления рисками, связанными с ИИ, позволит NIST продолжить свою работу. Для достижения этой цели Министерству, возможно, придется изучить альтернативные источники финансирования и наладить партнерские отношения. Программы в области ИИ по-прежнему вызывают серьезную озабоченность в отношении конфиденциальности большинства крупных технологических лидеров, таких как Google и Amazon, которые поэтому запустили собственные инициативы по обеспечению безопасности ИИ, предоставляющие возможность для коллективного обмена знаниями.

Сотрудничество с инноваторами из частного сектора в рамках государственно-частного партнерства может обеспечить NIST приоритетный доступ к передовым техническим знаниям в области ИИ, вычислительным ресурсам и финансированию, чтобы не отвлекать егоtracосновных приоритетов компании.