Google développe actuellement une nouvelle fonction de sécurité pour son assistant Gemini destinée à protéger les adolescents. Des lignes de code repérées dans la version 17.73.15 de l’application Google sur Android indiquent que l’outil pourra bientôt avertir les parents si un adolescent aborde des sujets liés à l’automutilation ou au suicide lors de ses échanges avec l’intelligence artificielle.
Jusqu’à présent, les contrôles parentaux via Family Link permettaient de filtrer les réponses de l’assistant pour les mineurs,mais aucun mécanisme ne prévenait l’entourage en cas de signaux d’alerte détectés dans les conversations. Avec cette mise à jour en préparation, un message préviendra directement l’enfant que ses parents seront informés si des propos liés à des blessures auto-infligées sont repérés.
Si cette mesure vise à renforcer la protection des jeunes utilisateurs face aux risques psychologiques liés aux chatbots, elle soulève des interrogations sur la confidentialité des échanges. Certains observateurs craignent que la perspective d’une notification parentale ne pousse les adolescents à taire leurs difficultés, les privant ainsi d’un espace de discussion ou de ressources d’aide en ligne.
Le code analysé montre également que Google travaille sur des options de limitation de temps d’utilisation spécifiques pour les comptes de mineurs. Ces nouveautés n’ont pas encore de date de déploiement officielle, s’agissant pour l’instant de modifications internes repérées dans les fichiers de l’application.
