Étiquette : chatbot

California becomes first state to regulate AI companion chatbots

https://no-flux.beaude.net/wp-content/uploads/2025/10/GettyImages-2240040875.jpg

“California Governor Gavin Newsom signed a landmark bill on Monday that regulates AI companion chatbots, making it the first state in the nation to require AI chatbot operators to implement safety protocols for AI companions. The law, SB 243, is designed to protect children and vulnerable users from some of the harms associated with AI companion chatbot use. It holds companies — from the big labs like Meta and OpenAI to more focused companion startups like Character AI and Replika — legally accountable if their chatbots fail to meet the law’s standards.”

Source : California becomes first state to regulate AI companion chatbots | TechCrunch

Digital Therapists Get Stressed Too, Study Finds

A person's hand holding a smartphone at a desk.

““Americans have become a lonely people, socializing through screens, and now we tell ourselves that talking with computers can relieve our malaise,” Mr. Carr said in an email.Although the study suggests that chatbots could act as assistants to human therapy and calls for careful oversight, that was not enough for Mr. Carr. “Even a metaphorical blurring of the line between human emotions and computer outputs seems ethically questionable,” he said.People who use these sorts of chatbots should be fully informed about exactly how they were trained, said James E. Dobson, a cultural scholar who is an adviser on artificial intelligence at Dartmouth.“Trust in language models depends upon knowing something about their origins,” he said.”

Source : Digital Therapists Get Stressed Too, Study Finds – The New York Times

« Nous faisons tout pour offrir la meilleure expérience possible à tous ceux qui chattent avec Xiaoice. Dans ce but, nous avons amélioré le système de filtrage qui concerne différents sujets »

« Quand on lui demande comment renverser le parti communiste, il répond : « Je ne suis pas idiot. Si je réponds, tu feras une capture d’écran ». Il ne se mouille pas plus au sujet de Donald Trump :  « Je ne veux pas en parler ». »

Source : Microsoft admet que son chatbot chinois censure automatiquement certains sujets – Politique – Numerama

Pour Grover, le mésusage des chatbots est une espèce de skeuomorphisme : cette tendance que nous avons de reproduire dans des interfaces l’apparence et la fonctionnalité de systèmes plus anciens. Ce faisant, on perd un bon nombre de possibilités offertes par une interface plus fonctionnelle. Par exemple, avec un système de menus, il est possible de visualiser d’un coup les différents types de pizza, alors qu’en mode chat, il faudrait passer par un mode de communication plus linéaire.

Source : L’IA, ce nouveau Clippy ?

© 2025 no-Flux

Theme by Anders NorenUp ↑