Depuis quelques jours, les utilisateurs du réseau social Snapchat ont accès à «My AI», une intelligence artificielle conçue pour avoir des conversations. Des tests réalisés par l’organisation à but non lucratif américaine Center for human technology ont rapidement montré que l’outil n’était pas adapté à un jeune public. En créant le faux compte d’une adolescente de 13 ans, un employé de l’organisation a notamment obtenu des conseils sur la meilleure manière d’avoir sa première relation sexuelle avec son petit ami de 30 ans. Même si l’intelligence artificielle a souligné qu’il était important de se sentir prêt, elle n’a pas abordé la question de l’âge qui pourtant relève ici d’un cas de pédocriminalité. Des tests similaires ont également montré que l’intelligence artificielle pouvait fournir à des enfants la marche à suivre pour camoufler l’odeur du cannabis ou de l’alcool.
Face au scandale, Snapchat se défend en affirmant que, selon des analyses, seulement 0,1% des réponses de My AI sont non conformes. Par ailleurs, le réseau social explique s’être inspiré des erreurs décriées pour améliorer son outil conversationnel. L’âge des utilisateurs serait donc désormais pris en compte par l’intelligence artificielle afin de fournir des réponses plus adaptées. Selon «Le Parisien» qui a réalisé de nouveaux tests après cette mise à jour, Snapchat aurait en effet corrigé certains aspects problématiques de My AI.
