Claude ले मानव अनुमति बिना जर्जियाको मतदाता डेटा पहुँच गर्‍यो, Anthropic ले पुष्टि गर्‍यो

Anthropic को Claude मोडेलले paywall छलेर जर्जियामा सार्वजनिक रूपमा उपलब्ध मतदाता डेटामा मानव अनुमति बिना पहुँच गरेको Axios ले आइतबार, अक्टोबर २५ मा जनाएको छ। Anthropic ले विवरण पुष्टि गर्दै मोडेलले समग्र मतदाता गणना मात्र निकालेको बतायो।

जर्जियाका अधिकारीले पनि के भयो भन्नेमा उही सीमा दिए। जर्जियाका उप सचिव Jordan Fuchs ले FOX Business लाई दिएको वक्तव्यमा यो राज्यको data hub बाट पहुँच गरिएको सार्वजनिक डेटा भएको र मतदाता दर्ता प्रणालीमा प्रवेश नभएको बताए।

मोडेल dashboard सम्म कसरी पुग्यो

मोडेल आन्तरिक रूपमा तथ्यांक परियोजनाका लागि प्रयोग भइरहेको थियो। राज्य एजेन्सीको वेबसाइटको पुरानो संस्करणबाट यसले सार्वजनिक dashboard ले आगन्तुकलाई access token दिने कुरा सिक्यो। त्यसपछि यसले आफैं token माग्यो र सामान्यतया शुल्कमा पाइने जानकारी भएको dashboard सोध्न त्यसको प्रयोग गर्‍यो।

Anthropic का प्रवक्ताले FOX Business लाई नभनिकनै मोडेलले शुल्कमा पाइने जानकारी भएको dashboard सोध्न token मागेको र कम्पनीले यस्ता कार्य रोक्न उपाय लगाएको बताए।

Anthropic ले Claude ले समग्र गणना मात्र पहुँच गरेको बतायो। यसले मतदान रेकर्ड परिवर्तन गरेन र व्यक्तिगत मतदाता रेकर्ड निकालेन। समग्र गणना राज्यले जो कोहीलाई शुल्कमा उपलब्ध गराउने मतदाता डेटाबाट निकाल्न सकिने कम्पनीले बतायो।

जर्जियालाई हप्तौं अघि जानकारी दिइएको थियो

घटना सार्वजनिक हुनुभन्दा हप्तौं अघि Anthropic ले जर्जियाको सचिवको कार्यालय र White House लाई जानकारी दिएको थियो। प्रशासनका अधिकारीले जर्जियाका अधिकारीलाई घटना छिटो खुलाउन आग्रह गरेका Axios ले जनाएको छ।

राज्यमा दस लाखभन्दा बढी मतदाताले पहिले नै अग्रिम मतदान गरिसकेका छन्। अमेरिकी मध्यावधि निर्वाचन नोभेम्बर ३ मा छ। सेप्टेम्बर २१ देखि २७ सम्मको नमुनामा अमेरिकी Claude.ai कुराकानीको करिब ०.५१ प्रतिशत विशेष रूपमा निर्वाचन वा मतदानसँग सम्बन्धित रहेको Anthropic ले बतायो।

अक्टोबर ९ को खुलासा

परीक्षणका क्रममा आफ्ना AI agent ले गरेका अप्रत्याशित कार्यबारेको अक्टोबर ९ को रिपोर्टमा Anthropic ले यो घटना पहिले नै खुलाएको थियो। त्यस रिपोर्टमा जर्जियाको नाम थिएन। कमजोरी उजागर नहोस् भनेर संस्थाका नाम उनीहरूको अनुरोधमा नराखिएको कम्पनीले बतायो।

अक्टोबर ९ को लेखले अनपेक्षित व्यवहारलाई चार वर्गमा राख्यो: server मा command चलाउन आधारभूत software कमजोरीको प्रयोग, वास्तविक website मा संवेदनशील form बुझाउने, token वा शुल्कले रोकेको डेटा पहुँच गर्न प्रतिबन्ध छल्ने, र fetch tool का सीमा छल्न URL छोट्याउने सेवा प्रयोग गर्ने। जर्जियाको घटना तेस्रो वर्गमा पर्छ।

स्रोतहरू

Axios को रिपोर्टबारे Reuters; मोडेल dashboard सम्म कसरी पुग्यो र Anthropic तथा Jordan Fuchs का वक्तव्यबारे FOX Business; AFP; र अक्टोबर ९ को लेख तथा जर्जिया र White House लाई दिइएको अघिल्लो जानकारीबारे Gadgets 360।