Quand l’IA « effrayante » devient encore meilleure – Systeme.io

Avec la sortie mardi du nouveau GPT-4 d’OpenAI, l’IA générative est devenue beaucoup plus puissante – et nous a rappelé à quel point nous ne sommes pas préparés à faire face à ces nouvelles machines.

Pourquoi est-ce important: Les incroyables systèmes informatiques qui peuvent désormais réussir des tests standardisés et peut-être même faire vos impôts sont toujours sujets aux erreurs, aux préjugés et aux hallucinations.

Détails: GPT-4 est une version mise à jour et nettement plus puissante du moteur qui alimente ChatGPT d’OpenAI.

• Alors que ChatGPT pourrait obtenir un score dans le 10e centile à l’examen standard du barreau passé par les avocats, OpenAI indique que GPT-4 peut obtenir un score dans le 90e centile. GPT-4 est également capable de réussir la plupart des examens AP, a déclaré OpenAI.

La nouvelle version peut accepter et générer des entrées plus longues – jusqu’à 25 000 mots. Il peut également générer des légendes et d’autres informations en utilisant une image comme point de départ.

• Mais comme son prédécesseur, il n’est formé que sur des informations qui étaient accessibles au public en septembre 2021.
• Du côté de la sécurité, OpenAI indique que GPT-4 est 82% moins susceptible de répondre lorsqu’on lui demande du contenu qu’il n’autorise pas et 40% plus susceptible de produire des réponses factuelles que GPT-3.5 lors de tests internes.

Microsoft a confirmé que GPT-4 alimente son nouveau chatbot de recherche Bing.

• C’est peut-être votre moyen le plus simple de l’utiliser en ce moment, car OpenAI limite certains accès.
• OpenAI a déclaré que GPT-4 sera disponible dans une capacité limitée pour les abonnés payants de ChatGPT Plus via chat.openai.com, et il existe une liste d’attente pour les entreprises et les développeurs qui cherchent à incorporer GPT-4 via une API.

Ce qu’ils disent : La technologie est encore loin d’être parfaite, a déclaré mardi le président d’OpenAI, Greg Brockman, à Axios.

• Mais il est déjà à un stade où il peut aider beaucoup de gens, a-t-il dit, notant son potentiel pour élargir l’accès à l’éducation, ainsi qu’aux informations juridiques et médicales. « Je suis juste excité de voir ce que les gens construisent », a-t-il déclaré.

La grande image: OpenAI n’est pas le seul à faire ses débuts dans le domaine. Ce n’était même pas la seule équipe d’IA à faire l’actualité mardi

• Anthropic, un rival d’OpenAI, a officiellement annoncé Claude, son chatbot qui est utilisé par diverses entreprises, dont DuckDuckGo, Notion et Quora, entre autres.
• Google a expliqué comment il utilisera l’IA générative pour aider les entreprises. Il offrira des outils que les entreprises peuvent utiliser pour permettre aux moteurs d’IA générative de parcourir les données d’entreprise. Les outils d’intelligence artificielle ajoutés à Workspace aideront à résumer les e-mails, à élaborer des campagnes marketing et à réécrire des documents.
• Microsoft, quant à lui, a prévu un événement jeudi pour expliquer comment il intégrera l’IA générative dans ses produits commerciaux, y compris les applications Office, telles que Word, Excel, PowerPoint et Outlook.

Entre les lignes: L’IA progresse alors même que la société essaie toujours de comprendre à la fois sa promesse et les pièges potentiels.

• La loi n’a pas encore rattrapé son retard. Il existe peu de lois spécifiques à l’IA, bien que l’UE ait travaillé à l’élaboration d’une loi de grande envergure sur l’IA conçue pour réglementer l’utilisation de la technologie, en particulier dans les zones « à haut risque ».

• Les entreprises sont toujours aux prises avec la façon dont les technologies pourraient augmenter ou remplacer le travail humain. L’IA générative d’aujourd’hui peut faire un travail convaincant en créant des supports marketing, en résumant le texte et en le transformant en de nouveaux genres. Dans le même temps, il est toujours enclin à la fois à inventer des faits et à commettre des erreurs mathématiques assez élémentaires.

C’est tout ce qui amène certains critiques tirer la sonnette d’alarme.

• Tristan Harris, l’ancien Googler qui dirige maintenant le Center for Humane Technology, met en garde contre les mêmes erreurs avec la génération actuelle d’IA qui ont été commises aux débuts des médias sociaux.
• « Remarquez qu’une fois que les médias sociaux se sont mêlés à la société et à ses institutions (PIB, élections, journalisme, identité des enfants), ils sont devenus impossibles à réglementer », Harris tweeté lundi. « Nous devrions mettre en place des garde-corps pour un déploiement et une recherche plus sûrs de l’IA * avant * que l’IA ne s’emmêle, plutôt qu’après. »

Oui mais: OpenAI dit que GPT-4 améliore ses prédécesseurs non seulement dans ses capacités, mais aussi avec une précision accrue et plus de garde-corps installés par l’homme.

• Dans le même temps, le GPT-4 est devenu suffisamment bon pour que même ses fabricants disent qu’il est temps de commencer à réfléchir à l’impact qu’il pourrait avoir en termes de remplacement d’emplois.

Entre les lignes: La plus grande précision de GPT-4 fait craindre à Brockman que les gens ne lui fassent davantage confiance – et baissent leur garde en matière de vérification des faits.

• OpenAI encourage la discussion sur les impacts de l’IA, tant par les législateurs que par la société en général, a déclaré Brockman. « Nous pensons qu’il devrait y avoir plus de réglementation sur l’IA », a-t-il déclaré, mais a ajouté que ce n’était pas suffisant : « Vous avez vraiment besoin d’un public éduqué. »