L’entreprise explore des moyens responsables de créer du NSFW dans des contextes spécifiques

OpenAI, le labo d’IA derrière GPT et DALL-E, envisage de permettre la génération limitée de contenu NSFW (Not Safe For Work, c’est-à-dire du contenu pour adultes). Leur “Model Spec” détaille comment ils veulent façonner le comportement de leurs modèles d’IA.

Exceptions pour des contextes créatifs et scientifiques choisis

En règle générale, les modèles d’OpenAI ne répondront pas aux demandes de NSFW. Cependant, ils autoriseront des exceptions pour certains contextes créatifs ou scientifiques. Par exemple, des paroles de rap inhabituelles avec un langage explicite pourraient être permises.

De plus, OpenAI étudie comment permettre la création responsable de NSFW dans des contextes adaptés à l’âge via leur API. Ainsi, ils envisagent de donner aux développeurs la possibilité de générer du NSFW dans des scénarios créatifs définis.

Porno et deepfakes restent interdits

Néanmoins, OpenAI est catégorique : pas question de créer de la pornographie générée par l’IA. En outre, les deepfakes sont totalement inacceptables. Protéger les enfants reste leur priorité numéro un.

Donc même s’ils envisagent d’autoriser du NSFW dans des cas très spécifiques, OpenAI maintiendra des limites strictes. Le porno et les deepfakes demeureront interdits.

Plus de flexibilité pour les développeurs, avec des règles éthiques fermes

Les utilisateurs de l’API d’OpenAI pourraient avoir une certaine latitude pour générer du NSFW. Toutefois, ils devront toujours se conformer à des directives éthiques strictes et protéger les mineurs.

À l’heure actuelle, OpenAI bannit encore tout contenu NSFW. Mais à l’avenir, ils pourraient l’autoriser de façon limitée pour offrir plus de liberté créative, avec des garde-fous solides.

Une approche prudente et progressive

Les détails sur qui pourra générer quel type de NSFW et dans quelles circonstances précises restent flous. Le “Model Spec” ne définit pas exactement les “contextes scientifiques ou créatifs spécifiques”.Il est clair qu’OpenAI avance prudemment sur ce terrain délicat. Pour le moment, ils semblent vouloir évaluer chaque demande de NSFW au cas par cas, selon des critères stricts.Par ailleurs, OpenAI invite le public à commenter le Model Spec. Ils consulteront également des décideurs politiques et des experts en éthique de l’IA pour façonner leur approche.Aucune date n’est annoncée pour ces changements de politique. De toute évidence, OpenAI opte pour une démarche progressive et réfléchie.

En conclusion, OpenAI entrouvre la porte au NSFW généré par l’IA, mais uniquement dans des contextes très spécifiques et éthiquement encadrés. La pornographie et les deepfakes resteront, quant à eux, strictement bannis.

Sur ce sujet sensible, l’entreprise adopte une approche mesurée, graduelle et consultative. Leur objectif semble être de trouver un équilibre subtil entre liberté créative et prévention des dérives. Nul doute que l’évolution de ce dossier mérite une attention particulière.

Source : OpenAI – Introducing the Model Spec