Comment les ingénieurs de prompts IA gagnent étonnamment plus de 300 000 $ dans la finance, la santé ou le droit

L'ingénieur de prompts IA est le sujet du moment et un individu peut gagner jusqu'à 335 000 $ par an – sans aucun diplôme en génie informatique ou compétences avancées en codage. Les grands modèles de langage (LLM) comme ChatGPT et Bard sont puissants, mais leur force est mieux exploitée par des personnes ayant une expertise sur leur fonctionnement. « Un peu comme tout dans la vie », a plaisanté un candidat au poste. Les grandes entreprises embauchent des personnes pour donner du sens aux LLM et tirer le meilleur parti de la technologie IA. Ces emplois pourraient être destinés à des ingénieurs de prompts avec une expérience générale, ou à des personnes ayant des compétences plus spécifiques au domaine, comme dans les domaines de la finance, de la santé ou du droit. Voici des conseils cruciaux pour les aspirants.

Un récent article de recherche de l'Université Stanford, en collaboration avec l'Université de Californie à Berkeley et le cabinet de recherche Samaya AI, met en évidence l'importance de l'ingénierie des prompts pour améliorer les performances des modèles IA. L'étude révèle que la longueur des prompts donnés aux modèles IA a un impact significatif sur leur capacité à exécuter les commandes avec précision. Comprendre ces informations cruciales peut conduire à des interactions plus impactantes avec l'IA, en particulier dans l'industrie financière, où les grandes institutions financières embauchent des chercheurs en IA avec des salaires supérieurs à 300 000 $ pour explorer les capacités des bots IA.

Le défi de la longueur des prompts sur les modèles IA

La recherche souligne que les modèles de langage, principalement basés sur des Transformateurs, ont du mal avec les séquences longues, ce qui entraîne des difficultés dans le traitement des prompts longs. La « fenêtre de contexte » d'un modèle de langage, qui prend en compte les mots entourant un terme clé lors de la génération de réponses, est cruciale dans ce contexte. L'étude identifie une « courbe en U distincte » dans la précision des modèles de langage, où les informations proches du milieu d'un prompt ont tendance à être ignorées, affectant les performances du modèle. L'implication est que si les informations au début et à la fin des prompts restent utiles, les données cruciales au milieu peuvent être négligées.

Surmonter les limites des transformateurs

La mauvaise mise à l'échelle des Transformateurs sur les séquences longues pose un défi à l'ingénierie des prompts. L'augmentation de la taille de la fenêtre de contexte, que les scientifiques de Meta avaient explorée via l'Interpolation de Position, pourrait sembler être une solution. Cependant, l'étude de Stanford révèle que lorsque le prompt complet dépasse la capacité de la fenêtre, les résultats montrent une courbe « presque superposée », indiquant une amélioration limitée des performances du modèle.

Les institutions financières exploitant la recherche en IA

Au-delà des cercles académiques, les principales institutions financières investissent activement dans la recherche en IA pour explorer les capacités des bots IA dans leurs opérations. Bloomberg développe actuellement BloombergGPT et embauche plusieurs chercheurs seniors en IA avec des salaires dépassant 300 000 $. JPMorgan augmente également considérablement son embauche de personnel axé sur l'IA pour des rôles de production et de recherche, en mettant particulièrement l'accent sur le développement de son bot de conseils financiers, IndexGPT. Pour réussir dans ces rôles, les candidats doivent comprendre l'importance de l'ingénierie des prompts et son impact sur les performances des modèles IA.

Le rôle des ingénieurs de prompts IA dans la finance

L'ingénierie des prompts possède un immense potentiel dans l'industrie financière, où les bots IA peuvent avoir un impact significatif sur les flux de travail, la gestion des risques et le service client. En optimisant les structures de prompts, les institutions financières peuvent améliorer les capacités des bots IA à analyser et traiter les données avec précision, conduisant à une prise de décision plus éclairée et à de meilleures expériences clients.

Utilisation de sous-titres pour une ingénierie de prompts impactante

1. Comprendre l'impact de la longueur du prompt : L'étude de Stanford éclaire la manière dont les prompts affectent les performances des modèles IA, exhortant les ingénieurs de prompts à trouver un équilibre entre les informations pertinentes et la brièveté du prompt.

2. Le défi des transformateurs et de la fenêtre de contexte : Les limites des Transformateurs dans la gestion des séquences longues posent des défis significatifs pour l'ingénierie des prompts, rendant crucial l'optimisation de la taille de la fenêtre de contexte pour des interactions IA efficaces.

3. Le phénomène de la courbe en U : La recherche révèle le motif en courbe en U de la précision des modèles de langage, soulignant la nécessité de positionner les informations critiques loin du milieu des prompts pour améliorer les performances de l'IA.

4. Surmonter le dilemme du transformateur : Bien que l'augmentation de la taille de la fenêtre de contexte semble prometteuse, l'étude met en évidence les limitations potentielles lorsque les prompts dépassent la capacité de la fenêtre, nécessitant des approches innovantes en ingénierie des prompts.

5. La recherche en IA dans l'industrie financière : Les institutions financières adoptent la recherche en IA et embauchent des chercheurs seniors en IA avec des salaires compétitifs pour explorer les capacités des bots IA, en particulier pour améliorer les conseils financiers et la gestion des risques.

6. Débloquer le potentiel de l'IA : En adoptant une ingénierie de prompts impactante, l'industrie financière peut exploiter les bots IA pour rationaliser les flux de travail, optimiser l'évaluation des risques et améliorer le service client, contribuant ainsi à une plus grande efficacité et compétitivité.

L'ingénierie des prompts est un aspect pivot des interactions IA, ayant un impact significatif sur les performances des modèles de langage. À mesure que les institutions financières continuent d'investir dans la recherche en IA, l'optimisation des structures de prompts devient de plus en plus cruciale pour débloquer le plein potentiel des bots IA. Les professionnels peuvent exploiter la technologie IA pour transformer l'industrie financière et stimuler un plus grand succès dans un paysage numérique en évolution rapide en comprenant les défis et les opportunités de l'ingénierie des prompts.

Mises en garde

Vous envisagez de changer de filière en plein milieu de vos études ? Quelqu'un a mis en garde en disant qu'il est trop tôt pour savoir si un emploi d'ingénieur de prompts a une puissance de frappe et un potentiel à long terme. N'oubliez pas qu'il y a pas si longtemps, tout le monde dans la Silicon Valley quittait ses emplois technologiques « traditionnels » pour se lancer dans la crypto, les NFT, le Web 3.0 et le Métavers ? Beaucoup de ces emplois ne se sont pas concrétisés et les emplois d'ingénierie de prompts pourraient finir de la même manière. L'IA devient plus intelligente grâce aux ajustements des développeurs IA et sera bientôt capable de se générer ses propres prompts à l'avenir, éliminant ainsi le besoin d'une grande partie de l'impulsion humaine. AutoGPT est déjà dans cette direction.

Alors, faites attention à vos choix de vie. Alors, faites attention à vos choix de vie.