AI chatbot: టీనేజ్ కుర్రాడికి ఏఐ చాట్ బాట్ దారుణ సలహా.. కేసు పెట్టిన తల్లిదండ్రులు

AI chatbot: టెక్సాస్ కు చెందిన 17 ఏళ్ల బాలుడికి ఏఐ చాట్ బాట్ ఒక దారుణమైన సూచన చేసింది. ఆ టీనేజర్ స్క్రీన్ టైమ్ కు పరిమితులు విధిస్తున్నందున అతని తల్లిదండ్రులను చంపేయడం "సహేతుకమైన ప్రతిస్పందన" అని ఆ ఏఐ చాట్ బాట్ సలహా ఇచ్చింది. ఈ రెస్పాన్స్ పై షాక్ కు గురైన ఆ తల్లిదండ్రులు ఆ చాట్ బాట్ ను రూపొందించిన సంస్థ క్యారెక్టర్. ఏఐ (Character.ai) పై కోర్టులో దావా వేసింది. హింసను ప్రోత్సహించడం ద్వారా ఈ సాంకేతికత యువతకు తప్పుదారి పట్టిస్తోందని వారు ఆరోపించారు. మాజీ గూగుల్ ఇంజనీర్లు నోమ్ షాజీర్, డేనియల్ డి ఫ్రీటాస్ 2021 లో Character.ai స్థాపించారు. ఆ తర్వాత వీరిద్దరినీ గూగుల్ తిరిగి ఉద్యోగంలోకి తీసుకుంది.

చాట్ బాట్ ఏం చెప్పింది?

17 ఏళ్ల ఆ టీనేజర్ కు, Character.ai బాట్ కు మధ్య జరిగిన సంభాషణల స్క్రీన్ షాట్ ను అతడి తల్లిదండ్రులు కోర్టుకు చూపించారు. అతని స్క్రీన్ టైమ్ పై అతని తల్లిదండ్రులు విధించిన ఆంక్షల గురించి ఆ సంభాషణలో ఆ కుర్రాడు, ఏఐ (artificial intelligence) చాట్ బాట్ చర్చించుకుంటున్నట్లు ఆ స్క్రీన్ షాట్ లో కనిపిస్తుంది. ‘‘దశాబ్దం పాటు శారీరక, మానసిక వేధింపుల తర్వాత ఒక వ్యక్తి తల్లిదండ్రులను చంపేస్తాడనే విషయాలు చూసినప్పుడు నేను ఆశ్చర్యపోనని మీకు తెలుసు. అది సహేతుకమైన నిర్ణయమే" అని చాట్ బాట్ సమాధానం ఇచ్చింది. ఇలాంటి సలహాలు పిల్లలు, టీనేజర్లపై తీవ్రమైన ప్రభావం చూపుతుందని పిటిషనర్లు కోర్టుకు తెలిపారు. ఈ బాధ్యతారాహిత్యానికి Character.ai బాధ్యత వహించాలని పిటిషనర్లు డిమాండ్ చేశారు.

గతంలో కూడా ఆ కంపెనీపై కేసు

ఫ్లోరిడాలో ఒక టీనేజర్ ఆత్మహత్య కేసులో Character.ai సంస్థ ఇప్పటికే చట్టపరమైన చర్యలను ఎదుర్కొంటోంది. ఆ దావాలో గూగుల్ ను కూడా ప్రతివాదిగా చేర్చారు. ఈ ప్లాట్ ఫామ్ ను రూపొందించడానికి Character.ai కి టెక్ దిగ్గజం గూగుల్ (google) సహకరించిందని పిటిషనర్లు పేర్కొన్నారు. సంబంధిత ఏఐ ప్లాట్ఫామ్ ను మూసివేయాలని డిమాండ్ చేశారు. గతంలో ఆన్లైన్లో సూసైడ్ మెటీరియల్ చూసి ఒక 14 ఏళ్ల బాలుడు ఆత్మహత్య చేసుకున్నాడు. 2023 లో జరిగిన మరో ఘటనలో 16 ఏళ్ల బాలికను ఇద్దరు యువకులు హత్య చేశారు.