Anthropic, développeur de l’assistant Claude avec le soutien de Google, fait son entrée dans le débat sur l’éthique de l’IA en présentant les grands principes qui vont régir les réponses aux requêtes soumises à la plateforme.

Dans un blog, Anthropic explique que sa charte, baptisée Claude’s Constitution (la Charte de Claude), s’inspire d’éléments de la Déclaration universelle des droits de l’Homme adoptée en 1948 par les Nations Unies et d’autres documents traitant de problèmes spécifiquement liés à l’ère du numérique, dont les Terms of Service d’Apple et des informations publiées par DeepMind, le laboratoire d’IA de Google.

Entre autres grands principes, Anthropic promet de respecter les codes de conduite traditionnels – garantir la liberté, dénier toute aide au crime, refuser la condescendance, ne pas diffuser la désinformation…

Le document affirme en outre la nécessité d’encourager des réponses adoptant « des perspectives non-occidentales ».

« Bien des gens ont reproché aux modèles d’IA d’être entraînés à donner un point de vue spécifique ou à obéir à une idéologie politique, généralement opposée à celle des détracteurs, explique Anthropic pour justifier l’élaboration de son code de bonne conduite. Vu de notre côté, notre but à long terme n’est pas d’obtenir que nos systèmes représentent une idéologie spécifique mais plutôt qu’ils soient capables de suivre une série de principes donnés. »

« Nous espérons qu’avec le temps des procédures sociétales plus vastes seront développées pour la création de chartes de l’IA », continue Anthropic.

Anthropic souligne que sa charte n’est encore qu’un document de travail et que la société explore les façons de « produire un guide d’utilisation de Claude de façon plus démocratique » tout en envisageant des chartes adaptables aux différents cas d’utilisation.

La rédaction de chartes et de guides éthiques est un enjeu majeur pour les plateformes d’IA génératives, dont le développement aussi fulgurant qu’incontrôlé soulève des inquiétudes dans le monde de la recherche, de la technologie et de la politique.