Transparence IA

2 Ce que les modèles ne font pas

Ils ne savent rien de ce qui s’est produit après leur fenêtre d’entraînement, sauf si un produit leur fournit un outil de recherche qui contient la date du jour. Ils ne vérifient pas une affirmation qu’on ne leur a pas demandé de vérifier. Ils n’ont pas de mémoire d’une conversation que vous avez fermée, sauf si vous l’avez enregistrée et que le produit la leur relit.

Ils n’agissent pas sur le monde de leur propre initiative. Cortex Code et Cortex CLI écrivent des fichiers et exécutent des commandes seulement là où vous les avez dirigés et seulement avec la permission que vous avez accordée. Cortex Security lit un dépôt et fait un rapport ; il ne le modifie pas au cours d’une revue.

Ils ne sont ni médecin, ni avocat, ni comptable, ni ingénieur signataire. Une sortie est un brouillon. Le jugement, la vérification et la signature restent à un humain.

3 Données d’entraînement

Les modèles sont entraînés sur [À REMPLIR PAR MATHIS : composition réelle du corpus — parts de données publiques, de données sous licence, de données produites en interne, et de retours utilisateurs, avec leurs ordres de grandeur].

Les conversations des utilisateurs ne sont pas utilisées pour l’entraînement par défaut. Lorsqu’une conversation est utilisée pour l’entraînement, c’est parce que l’utilisateur a activé cette option, pour cette conversation ou pour son compte, et le consentement peut être retiré à tout moment au même endroit. Nous ne considérons pas « la poursuite de l’usage du service » comme un consentement à entraîner sur votre contenu.

Nous respectons les directives robots et les conditions de licence attachées à une source. Publier une œuvre ouvertement ne la place pas dans le domaine public, et nous ne la traitons pas ainsi.

Les titulaires de droits peuvent obtenir [À REMPLIR PAR MATHIS : mécanisme réel — liste des sources, filtrage a posteriori, retrait des données], et demander le retrait de leur œuvre en écrivant à [À REMPLIR PAR MATHIS : adresse e-mail de contact droits d’auteur]. Ces demandes reçoivent la réponse d’une personne, et la réponse indique ce qui a réellement été retiré.

4 Conservation des prompts

Vos prompts et les sorties générées sont conservés tant que la conversation existe, pour que vous puissiez la rouvrir, et ils servent à faire fonctionner votre compte et à détecter les abus.

Vous pouvez supprimer une conversation depuis l’interface, et elle cesse immédiatement d’être lisible. Nous ne promettons pas qu’elle a quitté nos disques à la même seconde ; c’est ce que signifie la colonne de conservation ci-dessus.

5 Exactitude, limites et hallucinations

Un modèle génératif produit un texte fluide, qu’il soit correct ou non. Ce mode de défaillance — une affirmation assurée, bien formée et fausse — s’appelle une hallucination, et c’est une propriété de la méthode, pas un bogue qu’une version ultérieure supprimera.

Attendez-vous à en rencontrer surtout sur : les citations et références, les chiffres exacts, les dates, le contenu d’un document que le modèle n’a pas reçu, et les signatures d’API. Considérez chaque citation comme non vérifiée tant que vous ne l’avez pas ouverte.

Chaque modèle que nous publions est accompagné d’un rapport d’évaluation qui indique où le modèle échoue, pas seulement où il réussit. Ces rapports sont publiés même lorsqu’ils sont peu flatteurs, et ils sont publiés avant les poids. Lisez-les avant de choisir un modèle.

Ce qui réduit le risque : donner au modèle le document source plutôt que lui demander de s’en souvenir ; lui demander de citer ; lui demander son incertitude ; et faire vérifier par une personne tout ce qui donnera lieu à une action. Ce qui ne réduit pas le risque : un ton assuré. La fluidité n’est pas une preuve.

6 Usages à haut risque interdits

Au titre de l’article 5 du règlement européen sur l’IA, et de nos propres conditions, les usages suivants sont purement et simplement interdits et ne sont pas rendus licites par notre licence :

• les techniques subliminales, délibérément manipulatrices ou trompeuses qui altèrent substantiellement le comportement et causent un préjudice important ;
• l’exploitation d’une vulnérabilité d’une personne ou d’un groupe liée à l’âge, au handicap ou à une situation sociale ou économique particulière, pour altérer son comportement d’une manière qui cause un préjudice important ;
• la notation sociale par un acteur public ou privé, produisant un traitement préjudiciable ou défavorable sans rapport avec le contexte dans lequel les données ont été générées ;
• la prédiction du risque qu’une personne physique commette une infraction pénale, sur la seule base d’un profilage ;
• la constitution d’une base de données de reconnaissance faciale par moissonnage non ciblé d’images ;
• l’inférence des émotions sur le lieu de travail ou dans un cadre éducatif ;
• la catégorisation biométrique visant à déduire la race, les opinions politiques, l’affiliation syndicale, les convictions religieuses ou philosophiques, la vie sexuelle ou l’orientation sexuelle.

Au-delà de ces interdictions, nous refusons — et les conditions d’utilisation interdisent — les usages listés en 2.2.4, et en particulier les décisions sur l’accès des personnes à l’emploi, au crédit, au logement, aux soins, à l’éducation ou aux services publics essentiels sans revue humaine qualifiée.

7 Contrôle humain

Un système d’IA déployé sur lequel une personne s’appuie doit laisser cette personne capable de le comprendre, de le contredire et de l’arrêter.

Dans nos propres produits, cela signifie : le modèle énonce son incertitude au lieu de la lisser ; chaque affirmation de Deep Research porte une citation que vous pouvez ouvrir ; une action qui modifie vos fichiers est présentée pour confirmation avant de s’exécuter ; et il y a toujours un moyen d’accomplir la tâche sans le modèle.

Dans vos propres déploiements, placez un humain nommé dans la boucle partout où une sortie affecte les droits d’une personne ou son accès à un service, et consignez qui a relu quoi. La personne qui signe reste responsable ; le modèle n’est pas un bouclier.

8 Signaler un problème

Signalez une sortie préjudiciable, un problème de sécurité dans un service Cortex, ou un modèle qui se comporte d’une manière que sa fiche ne décrit pas, à [À REMPLIR PAR MATHIS : adresse e-mail de signalement]. Pour les signalements de sécurité, n’ouvrez pas d’abord un ticket public : utilisez [À REMPLIR PAR MATHIS : canal de divulgation, ou l’adresse dédiée].

Nous accusons réception d’un signalement, nous vous disons ce que nous avons trouvé, et nous publions le correctif dans le journal des versions. Lorsqu’un signalement révèle une défaillance systématique — une classe de prompts qui contourne une protection, une lacune dans une évaluation — nous le disons dans la fiche modèle de la version concernée. Un modèle qui échoue n’est pas retiré du registre ; il est annoté.

9 Conformité au règlement européen sur l’IA

Cortex Foundation agit en tant que fournisseur de modèles d’IA à usage général au sens du règlement (UE) 2024/1689, et en tant que fournisseur d’un système d’IA pour ses propres produits.

Lorsqu’un modèle Cortex est intégré dans un produit mis sur le marché par quelqu’un d’autre, ce fournisseur porte les obligations du système d’IA et Cortex Foundation celles du modèle. Nous fournissons la documentation nécessaire à cet effet, et nous demandons aux intégrations de laisser intacts les marqueurs de provenance.

Cette section décrit notre lecture du règlement en vigueur à la date figurant en tête de cette page. Elle ne constitue pas un conseil juridique et ne remplace pas le règlement.