- Доминирование крупных технологических компаний в сфере ИИ вызывает опасения по поводу этического контроля и потенциальной предвзятости.
- Субъективность при оценке обратной связи и влияние «продвинутых» идеологий создают риски для объективности ИИ.
- Этические дилеммы в разработке ИИ, такие как обучение с подкреплением на основе обратной связи от ИИ, требуют тщательного рассмотрения для будущего.
Помните ту чистую радость от распаковки Nintendo 64 в рождественское утро и экstaticкий крик «Nintendo Sixty-FOOOOOOOOOOOUR!»? Для многих этот момент чистого восторга представляет магию новаторских технологий. Будучи взрослым, я испытал подобный трепет, когда впервые увидел ChatGPT от OpenAI и его поразительно человеческие ответы. Однако мой первоначальный восторг вскоре сменился беспокойством, когда я осознал потенциал использования ИИ в злонамеренных целях. Кто контролирует ИИ и каковы их мотивы?
Появление доминирования ИИ со стороны крупных технологических компаний
В сегодняшнем цифровом ландшафте технологические гиганты, такие как Apple, Facebook (Meta), Google (Alphabet) и Microsoft, готовы доминировать на burgeoning рынке ИИ. Мы наблюдаем формирование монополий на данные прямо у нас на глазах, требуя бдительного контроля за решениями, которые эти технологические компании принимают в формировании будущего ИИ.
Большие языковые модели (LLM), технология, лежащая в основе ChatGPT, подвержены манипуляциям. Чтобы понять это, давайте разберем компоненты, составляющие секретный соус ChatGPT: алгоритм и механизм сбора обратной связи для улучшения модели, известный как обучение с подкреплением на основе человеческой обратной связи (RLHF).
Представьте, что вы спрашиваете ChatGPT: «Как мне написать статью для Fox News об ИИ?» Компьютер генерирует первоначальный ответ, и если он неудовлетворителен, человеческий оценщик помечает его как таковой. Затем ИИ итерируется, стремясь получить наше одобрение пересмотренной версии, используя «функцию вознаграждения» для оптимизации своей политической рамки.
Субъективность оценки обратной связи и фактор «пробуждения»
Этот процесс поднимает значительные вопросы: Кто получает право быть оценщиком обратной связи? Что если оценщик придерживается «пробужденной» идеологии, и его субъективная предвзятость влияет на него, чтобы снизить оценку ответов, которые другие могут считать действительными? Потенциал предвзятости в цикле обратной связи является законным беспокойством, как признает даже Сэм Альтман, генеральный директор OpenAI.
Сэм Альтман искусно выражает свое беспокойство, заявляя, что, вероятно, не будет универсально принятой версии непредвзятого ИИ. Он выделяет предвзятость человеческих оценщиков обратной связи как основной источник беспокойства. Проблема выбора непредвзятых оценщиков и проверки репрезентативной выборки остается сложной задачей, которая еще не была полностью решена.
Взгляд на этические дилеммы для усиления обучения на основе обратной связи от ИИ
Недавние исследования от Google вводят интригующую концепцию: обучение с подкреплением на основе обратной связи от ИИ. Этот подход подразумевает, что ИИ, а не люди, может определять политические рамки. Эта эволюция поднимает глубокие этические вопросы о роли ИИ в формировании нашего информационного ландшафта. Путь вперед остается неопределенным, а этические вопросы остаются на горизонте.
Наборы данных, используемые для обучения моделей ИИ, являются еще одним ключевым фактором, формирующим предвзятость ИИ. Возникают вопросы: Кто курирует эти наборы данных, и могут ли они быть тонко настроены для подчеркивания определенной повестки, придерживаемой материнской компанией? Это беспокойство усиливается значительным контролем Big Tech над данными, предоставляя им конкурентное преимущество в производительности LLM.
Смягчение преимущества для выравнивания игрового поля
Чтобы решить эту проблему, мы должны изучить варианты смягчения конкурентного преимущества технологических гигантов в ИИ. Одним из потенциальных решений является разделение этих технологических компаний через антимонопольное регулирование. Логика проста: корпорации, ответственные за жизненно важные алгоритмы ИИ, не должны быть единственными проектировщиками и реализаторами механизмов RLHF.
Хотя мы выступаем за этический надзор и регулирование, мы должны признать, что технологические фирмы обладают значительными ресурсами и активами данных. Больше данных приводит к более умному ИИ, что может принести обществу огромную пользу. Дебаты сосредоточены на поиске баланса между инновациями и этической ответственностью.
Тлеющая проблема предвзятости ИИ не должна игнорироваться, ибо где дым, там часто и огонь. Технологические компании, питающие свои повестки, от манипуляций с данными до разработки алгоритмов, представляют реальные угрозы для будущего свободы слова и непредвзятого ИИ. По мере того как мы смотрим в будущее, общество должно участвовать в продуманном дискурсе по этим вопросам, формировать информированные мнения и использовать ресурсы и влияние, чтобы убедиться, что мы не передаем судьбу нашего общества неконтролируемой власти Big Tech и росту «пробужденного ИИ».
Возможности ИИ огромны, но это наша коллективная ответственность формировать его будущее этично, обеспечивая, чтобы он служил наилучшим интересам человечества и сохранял ценности свободы слова и разнообразия мыслей.
Если вы читаете это, вы уже впереди. Оставайтесь с нами, подписавшись на нашу рассылку.
Отказ от ответственности. Предоставленная информация не является торговой рекомендацией. Cryptopolitan.com не несёт ответственности за любые инвестиции, совершённые на основе информации, представленной на этой странице. Мы настоятельно рекомендуем проводить независимое исследование и/или консультироваться с квалифицированным 5профессионалом перед принятием любых инвестиционных решений.
Глория Кабуру
Глори — крайне осведомлённый журналист, владеющий инструментами ИИ и методами исследований. Она увлечена темой искусственного интеллекта и является автором нескольких статей по этому вопросу. Она постоянно следит за последними достижениями в области искусственного интеллекта, машинного обучения и глубокого обучения и регулярно пишет об этом.
