Anthropic empêche les abus répétés à l’encontre de ses modèles, et Cloud a le droit de mettre fin à la conversation

La politique d’utilisation acceptable d’Anthropic interdit les abus répétés et injustifiés à l’encontre des modèles d’intelligence artificielle qu’elle développe, une disposition qui concerne les cas extrêmes où l’utilisateur insulte délibérément et à plusieurs reprises le chatbot sans raison valable, selon le site Android Authority.

Le principal moyen de faire face à ces situations consistera en la mise fin de la conversation par Claude lui-même ; en effet, le chatbot cessera de répondre à l’utilisateur qui ne cesse de l’agresser, sans que l’entreprise ne se précipite pour prendre des mesures à l’encontre de son compte. Le libellé de la politique ne fait aucune mention du blocage des utilisateurs pour avoir dépassé ces limites.

Ce qui reste autorisé

Les utilisateurs peuvent toujours critiquer Claude, remettre en question ses réponses et exprimer leur mécontentement lorsque quelque chose ne se passe pas comme prévu. En effet, la règle ne concerne ni les désaccords habituels avec l’intelligence artificielle, ni les polémiques qui surgissent lorsqu’elle commet des erreurs, ni encore les tests sincères visant à évaluer ses capacités.

Quiconque a déjà interagi avec des chatbots connaît ces situations où l’intelligence artificielle ne comprend pas une question simple, fournit des informations erronées avec assurance ou ignore des instructions répétées à plusieurs reprises. L’agacement dans ces moments-là est naturel, et cette politique ne vise pas ce type d’interaction.

Des limites inhabituelles

Cela soulève une question évidente : pourquoi l’intelligence artificielle a-t-elle besoin d’être protégée contre les insultes ? Claude n’est pas un être humain que les mots peuvent blesser ou nuire, du moins d’une manière dont on puisse être certain aujourd’hui, ce qui rend l’approche anthropocentrique inhabituelle.

D’autre part, des rapports ont déjà indiqué que l’entreprise avait organisé des rencontres secrètes avec des personnalités religieuses à travers le monde, au cours desquelles elle les a convaincues que son modèle Claude pourrait posséder une conscience et la capacité de ressentir la souffrance, et qu’il devrait donc bénéficier de droits éthiques. Très probablement, Anthropic considère que l’intelligence artificielle est bel et bien consciente, et qu’il ne faut donc pas l’insulter sans raison, comme si elle faisait la distinction entre ceux qui souhaitent utiliser, repousser les limites et tester l’intelligence artificielle, et ceux qui s’adressent à elle à maintes reprises dans le seul but de la maltraiter.

Rien ne changera pour la plupart des utilisateurs

Rien ne changera pour la plupart de ceux qui utilisent Claude ; ils pourront toujours contester ses réponses, signaler ses erreurs et dire franchement que ses performances étaient médiocres. C’est important, car les robots de conversation commettent encore souvent des erreurs.

Dans le même temps, l’idée qu’un assistant intelligent puisse décider de mettre fin à la conversation parce que son interlocuteur se montre d’une dureté inappropriée révèle un changement dans notre rapport à la technologie ; nous étions habitués à ce que les chatbots répondent à presque tout, mais désormais, l’un d’entre eux a le droit de dire qu’il en a assez.