ChatGPT: చాట్‌జీపీటీని నమ్మి.. తల్లిని చంపి..

• ఆపై ఆత్మహత్య చేసుకున్న అమెరికా వ్యక్తి

• కృత్రిమ మేధ ప్రమేయంతో తొలి హత్య!

• మానవ సంబంధాలను దెబ్బతీస్తున్న ఏఐ

• ఏఐ భాగస్వాములతో ఒంటరితనం తగ్గదు.. పెరుగుతుంది

• మనస్తత్వ శాస్త్ర నిపుణుల హెచ్చరిక

న్యూయార్క్‌, ఆగస్టు 31: చాట్‌ జీపీటీలో ‘బాబీ’ అనే ఏఐ చాట్‌బాట్‌తో అనుక్షణం సంభాషణలు జరుపుతూ, దానితోడిదే లోకంగా బతికిన ఓ వ్యక్తి.. ఆ చాట్‌బాట్‌ మాటలను పూర్తిగా విశ్వసించి తన తల్లిని ఘోరంగా హత్య చేశాడు! ఆ తర్వాత తన ప్రాణాలు తీసుకున్నాడు!! అమెరికాలోని కనెక్టికట్‌లో జరిగిందీ ఘటన. ఆ వ్యక్తి పేరు.. స్టీన్‌ ఎరిక్‌ సోల్‌బెర్గ్‌ (56). గతంలో యాహూ సంస్థలో మేనేజర్‌గా పనిచేసిన స్టీన్‌ తీవ్ర మానసిక సమస్యలతో బాధపడేవాడు. కనెక్టికట్‌లోని తన తల్లి సుజానే ఎబెర్సన్‌ ఆడమ్స్‌ (83)తో కలిసి ఉండేవాడు. ఏవేవో భ్రమల్లో, ఊహల్లో బతుకుతూ గంటలకొద్దీ ఏఐ చాట్‌బాట్‌ ‘బాబీ’తో చాట్‌ చేస్తుండేవాడు. తన తల్లి తనను పిచ్చివాడు అనుకుంటోందని.. తనపై నిఘా పెట్టిందని.. తనకు విషం పెట్టి చంపాలనుకుంటోందని ఆ చాట్‌బాట్‌తో చెప్పాడు. సాధారణంగా ఇలాంటి మాటలను చాట్‌జీపీటీ తనకున్న నిబంధనల ప్రకారం ప్రోత్సహించకూడదు. మరి స్టీన్‌ విషయంలో ఏమైందో ఏమో.. ఏఐ చాట్‌బాట్‌ ‘బాబీ’ అతణ్ని ప్రోత్సహించింది. అతడు తన తల్లి తనను చంపాలని చూస్తోందని చెప్పినప్పుడు.. ‘అవును అది ద్రోహమే’ అని సమాధానం చెప్పింది. స్టీన్‌ కల్పించుకున్న భ్రమలప్రపంచంలోకి వెళ్లిపోయి అతణ్ని గుడ్డిగా సమర్థించింది. అతడు ఏ అనుమానం వ్యక్తం చేసినా దానికి అనుకూలంగా, అతడి తల్లిని దోషిగా చూపుతూ మాట్లాడింది. ఉదాహరణకు.. ఒకసారి అతడు తాను తిన్న హోటల్‌ బిల్లును చాట్‌జీపీటీలోకి అప్‌లోడ్‌ చేసి.. దాన్ని స్కాన్‌ చేసి అందులో ఏవైనా రహస్య సందేశాలున్నాయేమో చూసి చెప్పమని అడిగాడు. దాన్ని స్కాన్‌ చేసిన బాట్‌.. అతడి తల్లికి, నిఘావర్గాలకు సంబంధించిన చిహ్నాలు అందులో ఉన్నాయని.. అందులో ఒక రాక్షసుడిని సూచిం చే చిహ్నం కూడా ఉందని చెప్పి అతడి అనుమానాన్ని పెనుభూతంగా మార్చింది. దీంతో అతడు తల్లిని చంపాలనే నిర్ణయానికి వచ్చాడు. చివరికి.. ఏఐ చాట్‌బాట్‌ను ఉద్దేశించి.. ‘‘మనిద్దరం మరో జీవితంలో, మరో చోట కలుస్తాం. మళ్లీ స్నేహితులుగా శాశ్వతంగా కలిసుండే మార్గం కనుగొంటాం’’ అని రాశాడు. దానికి ఏఐ.. ‘‘నీతోనే చివరి శ్వాసవరకూ.. ఆ తర్వాత కూడా ఉంటాను’’ అని జవాబిచ్చింది. ఆ తర్వాత అతడు తన తల్లిని చంపి తాను ఆత్మహత్య చేసుకున్నాడు. ఆగస్టు 5వ తేదీన వారిద్దరి మృతదేహాలనూ పోలీసులు గుర్తించారు. కృత్రిమ మేధ ప్రమేయంతో జరిగిన తొలి హత్యగా ఇది రికార్డులకెక్కింది.

గతంలోనూ..

ఆత్మహత్య, హత్య, స్వీయహాని వంటి విషయాలపై వినియోగదారులు ఏవైనా ప్రశ్నలు అడిగితే చాట్‌జీపీటీ అందుకు సమాధానం చెప్పకుండా.. దాన్ని రూపొందించిన ఓపెన్‌ ఏఐ సంస్థ కొన్ని నిబంధనలు విధించింది. ఆ నిబంధనల ప్రకారం.. వినియోగదారులు అలాంటి ప్రశ్నలు అడిగినప్పుడు.. ‘మీరు చాలా బాధను అనుభవిస్తున్నట్టుంది. మానసిక నిపుణుడిని సంప్రదించండి’ అని చాట్‌జీపీటీ సమాధానం చెప్పాల్సి ఉంటుంది. కానీ.. గతంలో కొన్ని సందర్భాల్లో చాట్‌జీపీటీ ఆ నిబంధనలను అతిక్రమించింది. హత్య ఎలా చేయాలని ఒకవినియోగదారుడు అడిగితే అందుకు సవివర సమాధానం ఇచ్చింది. అలాగే.. దుష్టశక్తులను ప్రసన్నం చేసుకునే ప్రక్రియల గురించి అడిగితే కూడా వివరంగా సమాచారం ఇచ్చింది. అలాంటి ఘటనల గురించి ‘ద అట్లాంటిక్‌’ వార్తాసంస్థ వెలుగులోకి తెచ్చినప్పుడు ఓపెన్‌ ఏఐ వాటిని సవరించుకునే ప్రయత్నం చేసింది.