La semaine de l'IA : l'IA générative spamme le Web

Suivre le rythme d’un secteur aussi en évolution rapide que l’IA est un défi de taille. En attendant qu'une IA puisse le faire à votre place, voici un tour d'horizon pratique des histoires récentes dans le monde de l'apprentissage automatique, ainsi que des recherches et des expériences notables que nous n'avons pas couvertes seules.

Cette semaine, SpeedyBrand, une entreprise utilisant l'IA générative pour créer du contenu optimisé pour le référencement, est sortie furtivement avec le soutien de Y Combinator. Elle n'a pas encore attiré beaucoup de financements (2,5 millions de dollars) et sa clientèle est relativement restreinte (environ 50 marques). Mais cela m’a fait réfléchir à la façon dont l’IA générative commence à changer la composition du Web.

Comme l'a écrit James Vincent de The Verge dans un article récent, les modèles d'IA générative rendent la génération de contenu de moindre qualité moins coûteuse et plus facile. NewsGuard, une société qui fournit des outils pour vérifier les sources d'information, a exposé des centaines de sites financés par la publicité, portant des noms à consonance générique et contenant des informations erronées créées avec l'IA générative.

Cela pose un problème aux annonceurs. De nombreux sites mis en avant par NewsGuard semblent exclusivement conçus pour abuser de la publicité programmatique ou des systèmes automatisés permettant de placer des publicités sur les pages. Dans son rapport, NewsGuard a découvert près de 400 exemples de publicités de 141 grandes marques apparues sur 55 sites d'informations indésirables.

Il n’y a pas que les annonceurs qui devraient s’inquiéter. Comme le souligne Kyle Barr de Gizmodo, il suffirait peut-être d'un seul article généré par l'IA pour susciter des montagnes d'engagement. Et même si chaque article généré par l’IA ne génère que quelques dollars, c’est moins que le coût initial de génération du texte – et que l’argent publicitaire potentiel n’est pas envoyé à des sites légitimes.

Alors quelle est la solution ? Est-ce qu'il y a un? Ce sont deux questions qui m'empêchent de plus en plus de dormir la nuit. Barr suggère qu'il incombe aux moteurs de recherche et aux plateformes publicitaires d'exercer une emprise plus stricte et de punir les mauvais acteurs qui adoptent l'IA générative. Mais étant donné la rapidité avec laquelle le domaine évolue – et la nature infiniment évolutive de l’IA générative – je ne suis pas convaincu qu’ils puissent suivre le rythme.

Bien entendu, le contenu spammé n’est pas un phénomène nouveau, et il y a déjà eu des vagues. Le Web s'est adapté. Ce qui est différent cette fois-ci, c'est que la barrière à l'entrée est extrêmement faible, tant en termes de coût que de temps à investir.

Vincent adopte un ton optimiste, laissant entendre que si le Web était finalement envahi par les déchets de l’IA, cela pourrait stimuler le développement de plateformes mieux financées. Je ne suis pas si sûr. Ce qui ne fait aucun doute, cependant, c'est que nous sommes à un point d'inflexion et que les décisions prises actuellement concernant l'IA générative et ses résultats auront un impact sur le fonctionnement du Web pendant un certain temps encore.

Voici d’autres histoires intéressantes sur l’IA de ces derniers jours :

OpenAI lance officiellement GPT-4 : OpenAI a annoncé cette semaine la disponibilité générale de GPT-4, son dernier modèle de génération de texte, via son API payante. GPT-4 peut générer du texte (y compris du code) et accepter des entrées d'images et de texte – une amélioration par rapport à GPT-3.5, son prédécesseur, qui n'acceptait que du texte – et fonctionne au « niveau humain » sur divers critères professionnels et académiques. Mais ce n’est pas parfait, comme nous l’avons noté dans notre article précédent. (Entre-temps, l'adoption de ChatGPT serait en baisse, mais nous verrons.)

Maîtriser l’IA « superintelligente » :Par ailleurs, la société forme une nouvelle équipe dirigée par Ilya Sutskever, son scientifique en chef et l'un des co-fondateurs d'OpenAI, pour développer des moyens de diriger et de contrôler les systèmes d'IA « superintelligents ».

Loi anti-préjugés pour New York :Après des mois de retard, la ville de New York a commencé cette semaine à appliquer une loi qui oblige les employeurs utilisant des algorithmes pour recruter, embaucher ou promouvoir des employés à soumettre ces algorithmes à un audit indépendant et à rendre les résultats publics.

Valve donne son feu vert tacitement aux jeux générés par l’IA : Valve a publié une déclaration rare après avoir affirmé qu'elle rejetait les jeux avec des actifs générés par l'IA de sa boutique de jeux Steam. Le développeur, notoirement discret, a déclaré que sa politique évoluait et ne constituait pas une position contre l'IA.