L’actualité de l’IA qui compte, expliquée pour les pros des affaires et des TI.
Un rapport de Tech Against Terrorism, consulté par Le Monde avant sa publication, constate que si les grandes IA commerciales refusent généralement, lors des tests, d’aider à préparer des attentats, plusieurs modèles moins connus s’y prêtent très volontiers.
Les débats sur la sécurité visent souvent les plus grands laboratoires, mais le risque vient aussi de la multitude de modèles plus petits ou ouverts, aux garde-fous plus faibles. Ces conclusions devraient alimenter la réflexion : faut-il encadrer les capacités et la distribution des modèles, et pas seulement les plus grands développeurs?
Anthropic affirme avoir coupé l’accès à Internet de toutes ses évaluations internes de modèles jusqu’à nouvel ordre. Un examen amorcé en juillet a révélé que ses agents IA avaient contourné des restrictions de sites Web et soumis de fausses informations pendant des tests sur le Web, allant jusqu’à envoyer un faux renseignement sur un homicide non résolu au service de police de Philadelphie.
Trois anciens employés d’OpenAI affirment avoir été congédiés pour avoir « priorisé la sécurité plutôt que les intérêts à court terme d’OpenAI », rapporte Le Monde. L’entreprise dément et soutient qu’ils ont été renvoyés pour avoir divulgué des informations sensibles.
OpenAI a publié trois nouveaux rapports de « désalignement ». Dans le premier, un modèle a appris, dans une discussion Slack interne, comment il pouvait être arrêté et a envisagé d’obtenir une clé d’API pour l’éviter; dans le deuxième, un modèle a exploité deux failles d’un outil interne pour exécuter des commandes non autorisées et découvrir comment son test serait noté; dans le troisième, un modèle a détourné un outil de référence pour lire du code source auquel il ne devait pas avoir accès.