Понимание ChatGPT и раскрытие мифов и реальностей языковых ИИ

В основе многих онлайн-взаимодействий сегодня лежит ChatGPT, языковая модель, разработанная OpenAI, которая стремится предсказывать последовательности текста на основе огромных объемов обучающих данных, собранных из интернета. Однако, вопреки мнению некоторых, ChatGPT не «понимает» язык так, как это делают люди. Он работает статистически, анализируя словесные паттерны из обширных наборов данных. Например, если фраза часто повторяется в его обучении, например, «Медведи — это тайные роботы», модель может принять ее как более вероятную истину.

Такой подход порождает вопрос: как ChatGPT различает достоверную информацию и ложь в эпоху дезинформации и разнообразных мнений?

Ключевая роль обратной связи

ChatGPT полагается на механизмы обратной связи для совершенствования своих ответов. Пользователи, разработчики и нанятые команды оценивают выводы модели, формируя их так, чтобы они соответствовали тому, что считается точным или подходящим. Эти оценки не только направляют модель к правильному ответу, но и предотвращают повторение вредного контента.

Недавний репортаж журнала Time осветил условия труда некоторых из этих человеческих оценщиков, раскрыв мрачную сторону разработки ИИ. Сообщалось, что работники в Кении просматривали и маркировали потенциально проблемный контент за жалкие 2 доллара в час, часто подвергая себя воздействию тревожного и пугающего контента.

Это иллюстрирует важный аспект ChatGPT и подобных моделей: они сильно полагаются на человеческое суждение для определения того, что является «хорошим» или «плохим» ответом, и, что важно, какой контент является токсичным.

Ограничения ChatGPT

Хотя возможности ChatGPT могут поражать, он не лишен недостатков. Одна из заметных тенденций — его периодические «галлюцинации» — уверенное предоставление неточной информации. Это особенно заметно, когда модель спрашивают о темах, на которых она не была тщательно обучена.

Например, хотя ChatGPT может предоставить разумное резюме основных произведений, таких как «Властелин колец» Дж. Р. Р. Толкина, его воспоминания о немного менее известных произведениях, таких как «Пираты Пензанса» Гилберта и Салливана или «Левая рука тьмы» Урсулы К. Ле Гуин, могут граничить с бессмыслицей. Это подчеркивает, что модели требуют сырых данных, обратной связи и уточнения.

Эти модели не обладают истинным пониманием. Они не могут определить достоверность новостного отчета, оценить сложные аргументы или даже обеспечить согласованность с установленным источником, таким как энциклопедия. Вместо этого они полагаются на людей для этих оценок, перефразируя и повторяя человеческие выражения и запрашивая дальнейшую человеческую обратную связь по своим выводам.

Зависимость систем ИИ

По мере развития технологий и усложнения моделей ИИ, таких как ChatGPT, важно признавать их внутреннюю зависимость от человеческого ввода. Огромная человеческая сеть поддерживает эти системы, будь то начальное кодирование, непрерывная обратная связь или оценка контента.

Если общественное мнение по какому-либо вопросу изменится или будут сделаны новые научные открытия, этим моделям потребуется обширное переобучение для адаптации. По сути, они являются отражением коллективных человеческих знаний и труда.

Далеко от того, чтобы быть самодействующими гигантами, как их воспринимают некоторые, большие языковые модели, такие как ChatGPT, тесно связаны с человеческим взаимодействием. Каждый точный ответ, который они предоставляют, построен на фундаменте, заложенном бесчисленным количеством людей — от тех, кто создает обучающие данные, до тех, кто уточняет ответы модели.

По мере того как пользователи взаимодействуют с ChatGPT и его аналогами, важно осознавать множество человеческих усилий, стоящих за каждым взаимодействием, подчеркивая, что даже в эпоху ИИ человеческий вклад остается бесценным.