Como os Engenheiros de Prompt de IA Ganham Incrivelmente Mais de US$ 300k em Finanças, Saúde ou Direito

O Engenheiro de Prompt de IA é o assunto do momento e um indivíduo pode ganhar até US$ 335.000 por ano – sem nenhum diploma em engenharia da computação ou habilidades avançadas de codificação. Modelos de linguagem grandes (LLMs) como ChatGPT e Bard são poderosos, mas seu poder é melhor aproveitado por pessoas com expertise em como eles funcionam. “Meio que como qualquer coisa na vida”, brincou um candidato à posição. Grandes empresas estão contratando pessoas para dar sentido aos LLMs e obter o máximo da tecnologia de IA. Esses empregos podem ser para engenheiros de prompt com experiência geral, ou para pessoas com habilidades mais específicas de domínio, como nas áreas de finanças, saúde ou direito. Aqui estão dicas cruciais para os candidatos.

Um recente artigo de pesquisa da Universidade de Stanford, em colaboração com a Universidade da Califórnia, Berkeley, e a empresa de pesquisa Samaya AI, destaca a importância da engenharia de prompts para melhorar o desempenho dos modelos de IA. O estudo revela que o comprimento dos prompts fornecidos aos modelos de IA impacta significativamente sua capacidade de executar comandos com precisão. Compreender essas informações cruciais pode levar a interações mais impactantes com a IA, especialmente na indústria financeira, onde grandes instituições financeiras contratam pesquisadores de IA com salários acima de US$ 300k para explorar as capacidades dos bots de IA.

O desafio do comprimento do prompt nos modelos de IA

A pesquisa aponta que os modelos de linguagem, principalmente baseados em Transformers, têm dificuldade com sequências longas, levando a dificuldades no processamento de prompts extensos. A ‘janela de contexto’ de um modelo de linguagem, que considera as palavras ao redor de um termo-chave ao gerar respostas, é crucial nesse contexto. O estudo identifica uma ‘curva em U distinta’ na precisão dos modelos de linguagem, onde as informações mais próximas do meio de um prompt tendem a ser ignoradas, afetando o desempenho do modelo. A implicação é que, embora as informações no início e no final dos prompts ainda sejam úteis, os dados cruciais no meio podem ser negligenciados.

Superando as limitações dos transformers

A má escalabilidade dos Transformers para sequências longas representa um desafio para a engenharia de prompts. Aumentar o tamanho da janela de contexto, que os cientistas da Meta exploraram por meio da Interpolação de Posição, pode parecer uma solução. No entanto, o estudo da Stanford revela que, quando o prompt completo excede a capacidade da janela, os resultados mostram uma curva “quase sobreposta”, indicando melhoria limitada no desempenho do modelo.

Instituições financeiras aproveitando a pesquisa de IA

Além dos círculos acadêmicos, as principais instituições financeiras estão investindo ativamente em pesquisa de IA para explorar as capacidades dos bots de IA em suas operações. A Bloomberg está desenvolvendo o BloombergGPT e contratando vários pesquisadores seniores de IA com salários superiores a US$ 300k. O JPMorgan também está aumentando significativamente a contratação de pessoal focado em IA para funções de produção e pesquisa, enfatizando especialmente o desenvolvimento de seu bot de aconselhamento financeiro, o IndexGPT. Para ter sucesso nessas funções, os candidatos devem compreender a importância da engenharia de prompts e seu impacto no desempenho dos modelos de IA.

O papel dos engenheiros de prompt de IA nas finanças

A engenharia de prompts tem um potencial imenso na indústria financeira, onde os bots de IA podem impactar significativamente os fluxos de trabalho, a gestão de riscos e o atendimento ao cliente. Ao otimizar as estruturas de prompts, as instituições financeiras podem melhorar as capacidades dos bots de IA para analisar e processar dados com precisão, levando a uma tomada de decisão mais informada e a melhores experiências para o cliente.

Utilizando subtítulos para uma engenharia de prompts impactante

1. Compreendendo o impacto do comprimento do prompt: O estudo da Stanford lança luz sobre como os prompts afetam o desempenho do modelo de IA, incentivando os engenheiros de prompt a encontrar um equilíbrio entre informações relevantes e brevidade do prompt.

2. O desafio dos transformers e da janela de contexto: As limitações dos Transformers no manuseio de sequências longas representam desafios significativos para a engenharia de prompts, tornando crucial otimizar o tamanho da janela de contexto para interações de IA eficazes.

3. O fenômeno da curva em U: A pesquisa revela o padrão de curva em U da precisão nos modelos de linguagem, enfatizando a necessidade de posicionar informações críticas longe do meio dos prompts para melhorar o desempenho da IA.

4. Superando o dilema do transformer: Embora o aumento do tamanho da janela de contexto pareça promissor, o estudo destaca as limitações potenciais quando os prompts excedem a capacidade da janela, exigindo abordagens inovadoras para a engenharia de prompts.

5. Pesquisa de IA na indústria financeira: As instituições financeiras estão adotando a pesquisa de IA e contratando pesquisadores seniores de IA com salários competitivos para explorar as capacidades dos bots de IA, especialmente na melhoria do aconselhamento financeiro e da gestão de riscos.

6. Desbloqueando o potencial da IA: Ao adotar a engenharia de prompts impactante, a indústria financeira pode aproveitar os bots de IA para simplificar fluxos de trabalho, otimizar a avaliação de riscos e melhorar o atendimento ao cliente, contribuindo para maior eficiência e competitividade.

A engenharia de prompts é um aspecto fundamental das interações de IA, impactando significativamente o desempenho dos modelos de linguagem. À medida que as instituições financeiras continuam a investir em pesquisa de IA, otimizar as estruturas de prompts torna-se cada vez mais crucial para desbloquear todo o potencial dos bots de IA. Os profissionais podem aproveitar a tecnologia de IA para transformar a indústria financeira e impulsionar um maior sucesso em uma paisagem digital em rápida evolução, compreendendo os desafios e oportunidades na engenharia de prompts.

Palavras de Cautela

Pensando em mudar de curso no meio do seu grau? Alguém alertou que é cedo demais para saber se um emprego de engenheiro de prompt tem poder de permanência e potencial a longo prazo. Lembre-se de não muito tempo atrás, quando todos no Vale do Silício estavam abandonando seus empregos de tecnologia “tradicionais” para entrar em criptomoedas, NFTs, Web 3.0 e o Metaverso? Muitos desses empregos não deram certo e os empregos de engenharia de prompts podem acabar da mesma forma. A IA está ficando mais inteligente com ajustes dos desenvolvedores de IA e, em breve, será capaz de fazer seus próprios prompts no futuro, eliminando a necessidade de muito prompting humano. AutoGPT já está indo nessa direção.

Com o tempo, a engenharia de prompts pode perder sua novidade, tornando menos provável que precisemos de “especialistas” nessa área. Também é totalmente possível que toda a indústria de IA produza bandidos — como em todas as coisas competitivas e de alto risco — e imploda sobre si mesma. Então, tenha cuidado com suas escolhas de vida.