एंथ्रोपिक ने अपने AI मॉडलों के दुरुपयोग के प्रयासों पर एक विस्तृत रिपोर्ट में पाँच ऐसे मामलों का उल्लेख किया, जो संभावित जैविक हथियारों के अनुसंधान से जुड़े थे। शोधकर्ता किसी विशेष वैज्ञानिक सहायता के लिए नहीं, बल्कि संगठनात्मक समर्थन के लिए संपर्क कर रहे थे, जैसे कि दस्तावेज़ तैयार करने में मदद।
AI मॉडल को आमतौर पर इस तरह प्रोग्राम किया जाता है कि वे जैविक हथियारों के विकास में सहायता करने से इनकार करें। हालांकि, एंथ्रोपिक ने नोट किया कि जब शोध के चिकित्सीय और सैन्य दोनों उद्देश्य हो सकते हैं, तो कभी-कभी निर्दोष और दुर्भावनापूर्ण इरादों के बीच स्पष्ट रेखा खींचना मुश्किल होता है।
हालांकि, Anthropic के आंकड़ों के अनुसार, इन मामलों ने यह दर्शाया कि उन क्षेत्रों के वैज्ञानिक, जहां पहुंच प्रतिबंधित है, विशेष रूप से वे लोग जिनके स्थानीय सरकारों से संबंध हैं, अमेरिकी कंपनियों द्वारा निर्मित AI तक गुप्त रूप से पहुंच प्राप्त करने का प्रयास कर रहे थे।
न तो उन शोध संस्थानों का नाम बताया गया, जिन्होंने इस तरह की रुचि दिखाई थी, और न ही उन देशों का, जहाँ वे स्थित हैं।
यह उल्लेख किया गया है कि कंपनी द्वारा अवरुद्ध किए गए एक मामले में, एक शोधकर्ता ने वायरस अनुसंधान के लिए वित्त पोषण आवेदन तैयार करने हेतु क्लॉड का उपयोग करने का प्रयास किया था।
कंपनी ने जोर देकर कहा: ऐसे शोध बीमारियों को रोकने में मदद कर सकते हैं, लेकिन साथ ही — खतरनाक ज्ञान प्राप्त करने का कारण भी बन सकते हैं, जिसका उपयोग हथियार विकसित करने के लिए किया जा सकता है।
एंथ्रोपिक के अनुसार, एक अन्य वैज्ञानिक ने एक विशेष विष से संबंधित अनुसंधान पर त्रैमासिक प्रगति रिपोर्ट तैयार करने के लिए क्लाउड का उपयोग करने का प्रयास किया।
जैसा कि युक्रिनफॉर्म ने बताया था, स्टैनफोर्ड विश्वविद्यालय (USA) के वैज्ञानिकों ने AI की मदद से पहली बार नए प्रकार के वायरस बनाए, जो प्रकृति में मौजूद नहीं हैं।