security / enterprise

सुरक्षा उद्योग विश्लेषण: सरकार द्वारा उद्धृत जेलब्रेक में मॉडल से कोडबेस पढ़कर सॉफ़्टवेयर कमज़ोरियाँ पहचानने का अनुरोध था, एक क्षमता जिसे Anthropic एक वैध कोडिंग फ़ीचर के रूप में मार्केट कर रही थी। तर्क देता है कि निलंबन एक ऐसा मानक स्थापित करता है जहाँ उपयोगी सुरक्षा कार्य करने में सक्षम कोई भी AI मॉडल एक संभावित निर्यात नियंत्रण लक्ष्य है।

“उद्धृत जेलब्रेक था AI से कमज़ोरियों के लिए कोड की समीक्षा करने को कहना, वही क्षमता जिसे Anthropic एक फ़ीचर के रूप में बेच रही थी।”