OpenAI s’apprête à introduire des fonctionnalités inédites dans ChatGPT, visant à renforcer la sécurité et l’efficacité lors de conversations délicates. En collaborant avec des experts de la santé mentale, l’entreprise entend offrir aux utilisateurs des interactions plus fiables, particulièrement en périodes de stress émotionnel.
L’info résumée en 3 points
- OpenAI intègre des modèles de raisonnement pour mieux gérer les conversations sensibles dans ChatGPT.
- Un contrôle parental sera introduit pour surveiller l’utilisation de ChatGPT par les adolescents.
- L’initiative est soutenue par un réseau mondial d’experts en santé mentale et en intelligence artificielle.
Modèles de raisonnement et sécurité
OpenAI déploiera de nouvelles fonctions de sécurité pour ChatGPT. L’accent est mis sur l’activation automatique de modèles de raisonnement lors de conversations délicates, ce qui devrait améliorer la fiabilité des réponses en tenant compte du contexte émotionnel de l’utilisateur. Pour ce faire, OpenAI s’appuie sur la méthode de l’ajustement délibératif, visant à assurer une meilleure gestion des consignes de sécurité.
Contrôle parental pour les jeunes utilisateurs
Conscient de l’utilisation croissante de l’intelligence artificielle par la jeune génération, OpenAI introduira un contrôle parental dans ChatGPT. Les parents pourront ainsi lier le compte de leur adolescent au leur et ajuster divers paramètres pour garantir une utilisation sécurisée de l’outil. Des notifications seront envoyées si l’adolescent se trouve dans une situation de crise, permettant aux parents d’intervenir rapidement.
Collaboration avec des experts de la santé
Pour assurer le succès de cette initiative, OpenAI collabore avec un Conseil d’experts sur le bien-être et l’IA, ainsi qu’avec un réseau de plus de 250 médecins provenant de 60 pays. Ces professionnels, incluant des psychiatres, des pédiatres et des médecins généralistes, fournissent des conseils sur la manière dont les modèles de raisonnement doivent réagir dans les contextes de santé mentale.
Perspectives futures
Dans les 120 prochains jours, OpenAI prévoit de partager d’autres avancées dans le cadre de cette initiative. L’introduction des fonctions de contrôle parental et l’utilisation des modèles de raisonnement représentent la première étape d’un plan plus large visant à améliorer la sécurité et l’efficacité de ChatGPT, en particulier lors de situations de crise.
OpenAI, fondée en décembre 2015, s’est rapidement imposée comme l’un des leaders dans le domaine de l’intelligence artificielle. Avec des projets tels que ChatGPT, l’entreprise continue de repousser les limites de l’innovation technologique, tout en gardant un œil vigilant sur les implications éthiques et sécuritaires de ses avancées. En collaborant avec des experts internationaux, OpenAI montre son engagement envers le développement responsable de l’IA, tout en offrant des solutions pratiques pour améliorer la vie quotidienne des utilisateurs du monde entier.