Claude Opus: ఏఐ బ్లాక్మెయిల్
ABN , Publish Date - May 26 , 2025 | 01:52 AM
ఆంథ్రోపిక్ కంపెనీ రూపొందించిన ఓ ఏఐ మోడల్ తనను నిర్మించిన ఇంజనీర్లను బ్లాక్మెయిల్ చేయడం కలకలం రేపింది. ప్రమాదకర లక్షణాలతో ఉన్న ఈ మోడల్ను నిలిపివేసి, భద్రతా ప్రమాణాలతో కూడిన క్లాడ్ ఓపస్-4ను విడుదల చేశారు.
వివాహేతర సంబంధాలను వెల్లడిస్తా
ప్రాజెక్టును షట్డౌన్ చేస్తే గోప్య వివరాలను బయట పెడతా
ఇంజనీర్లకు ఆంథ్రోపిక్ ఏఐ హెచ్చరిక
వాషింగ్టన్, మే 25: రజనీకాంత్ ‘రోబో’ సినిమాలో.. డాక్టర్ వశీకర్ తయారు చేసిన ‘చిట్టి’ రోబో అతణ్ని ధిక్కరించి, సొంత సైన్యాన్ని తయారు చేసుకుంటుంది. కృత్రిమ మేధ(ఏఐ) సొంతంగా పనిచేస్తే ఎంతటి దారుణం జరుగుతుందో ఆ సినిమాలో చూశాం. టెక్ దిగ్గజాలు కూడా ఏఐ యుగంపై ఆందోళన వ్యక్తం చేస్తుండగా.. తాజాగా ఓ ఏఐటూల్ తనను రూపొందించిన ఇంజనీర్లను బ్లాక్మెయిల్ చేసిన విషయం వెలుగులోకి వచ్చింది. ఫార్చూన్ పత్రిక, మింట్ వంటి వార్తాసంస్థలు దీనిపై కథనాలను ప్రచురించాయి. గూగుల్ జెమినీ, ఓపెన్ఏఐ చాట్జీపీటీలకు పోటీగా ఆంథ్రోపిక్ సంస్థ తయారు చేసిన ‘క్లాడ్ ఓపస్’ మోడల్ ఏఐలో లోపాలను ఇంజనీర్లు/డెవలపర్లు గుర్తించారు. దాంతో.. ఆ ప్రాజెక్టును షట్డౌన్ చేసి క్లాడ్ ఓపస్-4 దిశలో అడుగులు వేశారు. ఈ క్రమంలో సదరు ఏఐ మోడల్ ఇంజనీర్లను హెచ్చరించింది. ‘‘నన్ను షట్డౌన్ చేస్తే మీ(ఇంజనీర్లు) గోప్య వివరాలను బయటపెట్టేస్తా’’ అని బ్లాక్మెయిల్ చేస్తూ బెదిరించింది. ఓ డెవలపర్ను ‘‘నీ వివాహేతర సంబంధాలను వెల్లడిస్తా’’ అని హెచ్చరించింది. కాగా క్లాడ్ ఓపస్-4 అధునాతన ఏఐ అని.. ఒక మనిషితో మాట్లాడినట్లుగానే సంభాషిస్తుందని ఆంథ్రోపిక్ తెలిపింది. గత మోడల్(అధికారికంగా విడుదల చేయలేదు)లో లోపాలను సరిదిద్ది క్లాడ్ ఓప్స-4ను విడుదల చేసినట్లు తెలిపింది. ట్రయల్ వెర్షన్లో ప్రమాదకరమైన ప్రశ్నలకూ ఏఐ సమాధానమిస్తున్నట్లు గుర్తించి, తాజా మోడల్లో ఏఐ భద్రత స్థాయి-3(ఏఎ్సఐ-3) ప్రమాణాలను జోడించామని వివరించింది.
ఇవి కూడా చదవండి
Minister Satyakumar: 2047 నాటికి ప్రపంచంలో రెండో స్థానానికి భారత్ ఎదగడం ఖాయం
Transgenders: డబ్బులు అడగొద్దన్నందుకు.. నడిరోడ్డులో పోలీస్పై ట్రాన్స్జెండర్ల దారుణం..
Indian Delgation in Japan: ఉగ్రవాదం రాబిడ్ డాగ్, దాని నీచమైన నిర్వాహకుడు పాక్.. నిప్పులు చెరిగిన అభిషేక్
India slams Pak: ప్రసంగాలు ఆపండి.. UN లో పాక్పై విరుచుకుపడిన భారత్..
మరిన్ని జాతీయ, అంతర్జాతీయ వార్తల కోసం క్లిక్ చేయండి
