Топовые модели ИИ не обладают прозрачностью, показывает новый индекс
Топовые модели ИИ не обладают прозрачностью, показывает новый индекс
- Согласно новому индексу, большинство ИИ-моделей страдают от недостатка прозрачности.
- Прозрачность является ключевым требованием для регуляторов, чтобы эффективно контролировать ИИ в целях защиты потребителей.
- Отсутствие прозрачности также затрудняет выявление предвзятости, проблем с конфиденциальностью и других рисков, которые могут представлять модели ИИ.
Исследователи из Центра исследований базовых моделей Стэнфордского университета (CRFM) недавно обнаружили, что крупнейшие базовые модели ИИ не обладают достаточной прозрачностью, и это может вызывать обеспокоенность, учитывая, насколько мощной и быстро распространяется эта технология по всему миру.
Топовые модели ИИ не обладают прозрачностью
Чтобы оценить прозрачность топ-10 базовых моделей, исследователи объединились с другими экспертами из MIT и Принстона, чтобы разработать «Индекс прозрачности базовых моделей». Индекс оценивает 100 различных аспектов прозрачности на основе того, как компания создает базовую модель, как она работает и как используется в downstream-приложениях.
Индекс поставил Llama 2 от Meta на 54%, за ним следуют BLOOMZ от BigScience (53%) и OpenAI GPT-4 (48%). Прозрачность PaLM 2 от Google составила 40%, а наименее прозрачной моделью оказался Titan Text от Amazon с показателем 12%.
«Это довольно четкое указание на то, как эти компании сравниваются со своими конкурентами, и мы надеемся, что это мотивирует их улучшить свою прозрачность», — сказал Риши Боммасани, социальный лидер в CRFM.
Почему это важно?
Прозрачность в моделях ИИ необходима для предотвращения определенных угроз защите потребителей, а также для гарантии того, что эти инструменты безопасны в использовании.
Отсутствие прозрачности затруднит бизнесу понимание того, могут ли они безопасно создавать приложения на основе коммерческих базовых моделей, или ученым полагаться на модели для исследований.
С точки зрения регулирования, это главный приоритет. Прозрачность важна для выявления предвзятости, нарушений конфиденциальности и т.д., а также для эффективной помощи политикам по всему миру в формулировании правил для регулирования моделей ИИ.
«Если у вас нет прозрачности, регуляторы не могут даже задать правильные вопросы, не говоря уже о принятии мер в этих областях», — сказал Боммасани.
Некоторые страны, включая Австралию, уже начали применять меры для обеспечения прозрачности и целостности моделей ИИ. В сентябре Cryptopolitan сообщил, что австралийское правительство наделило граждан правом запрашивать значимую информацию о том, как принимаются автоматизированные решения.
Правительство требует, чтобы компании ИИ предоставляли эту информацию в ясной и понятной форме, гарантируя, что граждане могут понять, как ИИ влияет на их жизнь.
Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com Мы не несем ответственности за любые инвестиции, сделанные на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или проконсультироваться с квалифицированным специалистом перед принятием любых инвестиционных решений.
Ибиам Вайяс
Ибиам Вайяс освещает криптовалютные новости с 2019 года. Он изучал компьютерные науки в Национальном открытом университете Нигерии. Его работы публиковались на различных криптовалютных новостных платформах, включая Coinfomania, Crypto News Australia и AltcoinBuzz. Опираясь на свой опыт в области компьютерных наук, он теперь фокусируется на новостях о криптовалютах, робототехнике и долголетии.
