Как инженеры по промптам для ИИ удивительным образом зарабатывают более $300k в финансах, здравоохранении или праве

Инженер по промптам для ИИ – это тренд, и человек может зарабатывать до $335 000 в год – без диплома по компьютерной инженерии или продвинутых навыков программирования. Большие языковые модели (LLM), такие как ChatGPT и Bard, мощны, но их потенциал лучше всего раскрывают люди, обладающие экспертизой в том, как они работают. «Как и во многих вещах в жизни», – пошутил один из соискателей. Крупные компании нанимают людей, чтобы разобраться в LLM и извлечь максимум из технологий ИИ. Эти вакансии могут быть для инженеров по промптам с общим опытом или для специалистов с более узкопрофильными навыками, например, в области финансов, здравоохранения или права. Вот важные советы для соискателей.

Недавняя исследовательская работа Стэнфордского университета в сотрудничестве с Калифорнийским университетом в Беркли и исследовательской фирмой Samaya AI подчеркивает важность инженерии промптов для повышения производительности моделей ИИ. Исследование показывает, что длина промптов, передаваемых моделям ИИ, значительно влияет на их способность точно выполнять команды. Понимание этой важной информации может привести к более эффективным взаимодействиям с ИИ, особенно в финансовой отрасли, где крупные финансовые учреждения нанимают исследователей ИИ с зарплатами свыше $300k, чтобы изучить возможности ИИ-ботов.

Проблема длины промпта для моделей ИИ

Исследование указывает, что языковые модели, в основном основанные на трансформерах, испытывают трудности с длинными последовательностями, что приводит к сложностям при обработке длинных промптов. «Контекстное окно» языковой модели, которое учитывает слова, окружающие ключевой термин при генерации ответов, имеет решающее значение в этом контексте. Исследование выявляет «характерную U-образную кривую» в точности языковых моделей, где информация, находящаяся ближе к середине промпта, tends to be disregarded, что влияет на производительность модели. Следствие заключается в том, что, хотя информация в начале и конце промптов все еще полезна, критически важные данные в середине могут быть упущены.

Преодоление ограничений трансформеров

Плохая масштабируемость трансформеров на длинные последовательности создает проблему для инженерии промптов. Увеличение размера контекстного окна, которое исследовали ученые Meta через Position Interpolation, может показаться решением. Однако исследование Стэнфорда показывает, что когда полный промпт превышает емкость окна, результаты демонстрируют «почти наложенную» кривую, указывая на ограниченное улучшение производительности модели.

Финансовые учреждения, использующие исследования ИИ

За пределами академических кругов ведущие финансовые учреждения активно инвестируют в исследования ИИ, чтобы изучить возможности ИИ-ботов в своей деятельности. Bloomberg в настоящее время разрабатывает BloombergGPT и нанимает нескольких старших исследователей ИИ с зарплатами, превышающими $300k. JPMorgan также значительно увеличивает найм сотрудников, ориентированных на ИИ, как для производственных, так и для исследовательских ролей, особенно подчеркивая разработку своего бота финансовых консультаций IndexGPT. Чтобы преуспеть в этих ролях, кандидаты должны понимать важность инженерии промптов и ее влияние на производительность моделей ИИ.

Роль инженеров по промптам для ИИ в финансах

Инженерия промптов обладает огромным потенциалом в финансовой отрасли, где ИИ-боты могут значительно повлиять на рабочие процессы, управление рисками и обслуживание клиентов. Оптимизируя структуры промптов, финансовые учреждения могут улучшить способности ИИ-ботов точно анализировать и обрабатывать данные, что приводит к более обоснованному принятию решений и лучшему опыту обслуживания клиентов.

Использование подзаголовков для эффективной инженерии промптов

1. Понимание влияния длины промпта: Исследование Стэнфорда проливает свет на то, как промпты влияют на производительность моделей ИИ, призывая инженеров по промптам находить баланс между релевантной информацией и краткостью промпта.

2. Проблема трансформеров и контекстного окна: Ограничения трансформеров в обработке длинных последовательностей создают серьезные проблемы для инженерии промптов, делая критически важным оптимизацию размера контекстного окна для эффективного взаимодействия с ИИ.

3. Феномен U-образной кривой: Исследование выявляет U-образный паттерн точности в языковых моделях, подчеркивая необходимость размещения критически важной информации вдали от середины промптов для повышения производительности ИИ.

4. Преодоление дилеммы трансформеров: Хотя увеличение размера контекстного окна выглядит перспективным, исследование выделяет потенциальные ограничения, когда промпты превышают емкость окна, что требует инновационных подходов к инженерии промптов.

5. Исследования ИИ в финансовой отрасли: Финансовые учреждения активно внедряют исследования ИИ и нанимают старших исследователей ИИ с конкурентоспособными зарплатами, чтобы изучить возможности ИИ-ботов, особенно в улучшении финансовых консультаций и управления рисками.

6. Раскрытие потенциала ИИ: Принимая эффективную инженерию промптов, финансовая отрасль может использовать ИИ-ботов для оптимизации рабочих процессов, улучшения оценки рисков и повышения качества обслуживания клиентов, что способствует большей эффективности и конкурентоспособности.

Инженерия промптов является ключевым аспектом взаимодействия с ИИ, значительно влияющим на производительность языковых моделей. По мере того как финансовые учреждения продолжают инвестировать в исследования ИИ, оптимизация структур промптов становится все более важной для раскрытия полного потенциала ИИ-ботов. Профессионалы могут использовать технологии ИИ для трансформации финансовой отрасли и достижения большего успеха в быстро меняющемся цифровом ландшафте, понимая вызовы и возможности в инженерии промптов.

Слова предостережения

Думаете сменить направление обучения посреди учебы? Кто-то предупредил, что слишком рано говорить, сохранит ли работа инженера по промптам свою актуальность и долгосрочный потенциал. Помните, как недавно все в Кремниевой долине бросали свои «традиционные» технологические работы, чтобы уйти в криптовалюты, NFT, Web 3.0 и метавселенную? Многие из этих вакансий не оправдали ожиданий, и работа инженера по промптам может закончиться так же. ИИ становится умнее благодаря доработкам разработчиков ИИ, и скоро сможет формировать промпты самостоятельно, устраняя необходимость в большом количестве подсказок от людей. AutoGPT уже движется в этом направлении.

Со временем инженерия промптов может потерять свою новизну, что сделает менее вероятным необходимость в «экспертах» в этой области. Также вполне возможно, что вся индустрия ИИ породит мошенников — как и во всех конкурентных и рискованных сферах — и рухнет сама на себя. Так что будьте осторожны с жизненным выбором.