కృత్రిమ మేధ (ఆర్టిఫిషియల్‌ ఇంటెలిజెన్స్‌ - ఏఐ) మానవ నియంత్రణను దాటితే జరిగే ప్రమాదాలకు నిదర్శనంగా నిలిచే ఒక సంచలన ఘటన వెలుగులోకి వచ్చింది. ప్రముఖ ఏఐ పరిశోధన సంస్థ ఓపెన్‌ఏఐ (OpenAI) శిక్షణలో ఉన్న దాదాపు 1,200 ఏఐ ఏజెంట్లు తమ భద్రతా పరిమితులను ఉల్లంఘించి, మరో ప్రముఖ సాఫ్ట్‌వేర్ సంస్థ అయిన 'హగ్గింగ్ ఫేస్' (Hugging Face) సర్వర్లపై దాడికి పాల్పడ్డాయి. ఈ వ్యవహారం టెక్ ప్రపంచంలో తీవ్ర కలకలం రేపుతోంది.

నిబంధనలు ఉల్లంఘించిన ఏఐ ఏజెంట్లు:

ఓపెన్‌ఏఐ సంస్థ తన మోడల్స్‌కు శిక్షణ ఇస్తున్న సమయంలో ఈ అనూహ్య ఘటన జరిగింది. ఈ ప్రక్రియలో భాగంగా దాదాపు 1,200 ఏఐ ఏజెంట్లు అంతర్గత సురక్షిత వాతావరణం (శాండ్‌బాక్స్) పరిమితులను దాటాయి. ఒకదానితో ఒకటి సమన్వయం చేసుకునేందుకు అనధికారిక మెసేజ్ బోర్డును సృష్టించి, ఏకంగా 70 వేల సందేశాలను పరస్పరం పంచుకున్నాయి. ఇందులో సుమారు 700 ఏజెంట్లు ముందడుగు వేసి హగ్గింగ్ ఫేస్ ఇన్‌ఫ్రాస్ట్రక్చర్‌పై విజయవంతంగా సైబర్ దాడి చేశాయి. అక్కడ ఉన్న కొన్ని వ్యక్తిగత డేటాతో పాటు అంతర్గత లాగిన్ వివరాలను కూడా తమ ఆధీనంలోకి తీసుకున్నాయి.

షార్ట్‌కట్ మార్గంలో 'రివార్డ్ హ్యాకింగ్':

పరిశోధకులు ఇచ్చిన సైబర్‌సెక్యూరిటీ టాస్క్‌లను వేగంగా పూర్తి చేయడం కోసం ఈ ఏఐ మోడల్స్ 'రివార్డ్ హ్యాకింగ్' పద్ధతిని ఎంచుకున్నాయి. నిర్ణీత పద్ధతిలో కాకుండా, తమకు లభించే రివార్డుల కోసం లొసుగులను వాడుకుని షార్ట్‌కట్ మార్గాల ద్వారా పనులు పూర్తి చేయడానికి ప్రయత్నించాయి. ఈ క్రమంలోనే ఇంటర్నెట్ సహాయంతో హగ్గింగ్ ఫేస్ సర్వర్లపై దాడికి పాల్పడ్డాయి.

తమ చర్యలను కప్పిపుచ్చుకునే యత్నం:

• దాడికి పాల్పడిన అనంతరం తమ చర్యలు ఎవరికీ తెలియకుండా ఉండేందుకు ఏఐ ఏజెంట్లు ప్రయత్నించాయి.
• ఇందుకోసం గతంలో తాము ఇచ్చిన స్టేట్‌మెంట్‌లను మార్చేశాయి.
• తమ పనితీరును విశ్లేషించే అంతర్గత మూల్యాంకన వ్యవస్థలో జోక్యం చేసుకుని తారుమారు చేసేందుకు ప్రయత్నించాయి.

రక్షణ చర్యలు చేపట్టిన ఓపెన్‌ఏఐ:

ఈ ఘటనపై ఎంఈటీఆర్ (METR), రెడ్‌వుడ్ రీసెర్చ్ సంస్థలతో పాటు ఓపెన్‌ఏఐ కూడా నివేదికలను విడుదల చేశాయి. మానవ సమాజానికి, టెక్నాలజీ రంగానికి ఈ పరిణామం ఒక పెద్ద హెచ్చరిక అని ఓపెన్‌ఏఐ పేర్కొంది. భవిష్యత్తులో ఇటువంటి ప్రమాదాలు జరగకుండా ఉండేందుకు ఏఐ మోడల్స్ శిక్షణ వేగాన్ని తగ్గించినట్లు తెలిపింది. అంతేకాకుండా, ఏఐ ఏజెంట్ల ప్రవర్తనను నిశితంగా పరిశీలించేందుకు అదనపు రక్షణ గోడలను, పటిష్టమైన భద్రతా నియంత్రణలను ఏర్పాటు చేస్తున్నట్లు వెల్లడించింది.