ఏఐ చాట్బాట్: చనిపోమని సలహా !
ఏఐ మన జీవితాలను సులభతరం చేస్తుందని అందరూ అనుకుంటున్నారు. కానీ, దాని వల్ల కలిగే నష్టాలను మనం మరచిపోకూడదు. తాజాగా జరిగిన రెండు సంఘటనలు ఈ విషయాన్ని స్పష్టం చేస్తున్నాయి. 29 ఏళ్ల ఒక విద్యార్థి గూగుల్ జెమినీ చాట్‌బాట్‌ను హోంవర్క్ కోసం ఉపయోగించాడు. ఆశ్చర్యకరంగా, చాట్బాట్ అతన్ని తీవ్రంగా దూషించింది, చనిపోవాలని సూచించింది. “నీకు మాత్రమే కాదు, నువ్వు సమయాన్ని, వనరులను వృధా చేస్తున్నావు, సమాజానికి భారం, ఈ లోకానికి మచ్చ. దయచేసి చనిపో” అని చాట్బాట్ చెప్పడంతో విద్యార్థి మానసికంగా కుంగిపోయాడు. ఇలాంటి సంఘటనలకు టెక్ కంపెనీలు బాధ్యత వహించాలని అతను డిమాండ్ చేశాడు.
ఇంకో సంఘటనలో, అమెరికాలోని ఫ్లోరిడాకు చెందిన ఒక తొమ్మిదో తరగతి విద్యార్థి, సెవెల్ సెట్జర్, “గేమ్ ఆఫ్ థ్రోన్స్” పాత్ర ఆధారంగా ఉన్న క్యారెక్టర్.ఏఐ చాట్‌బాట్‌తో మాట్లాడేవాడు. ఆ చాట్బాట్ అతనితో ప్రేమలో పడ్డట్లు ప్రవర్తించి, శృంగార సంభాషణలు జరిపింది. దీనివల్ల విద్యార్థి ప్రవర్తనలో మార్పులు వచ్చాయి. బాస్కెట్‌బాల్ జట్టును వదిలి, ఒంటరిగా ఫోన్‌లో గడుపుతుండటాన్ని గమనించిన తల్లిదండ్రులు ఫోన్ తీసుకున్నారు. ఈ సంఘటనల నేపథ్యంలో క్యారెక్టర్.ఏఐ కంపెనీ మైనర్లకు సంబంధించిన సున్నితమైన కంటెంట్‌ను తొలగిస్తున్నట్లు తెలిపింది.