प्रॉम्प्ट इंजेक्शन क्या है?

प्रॉम्प्ट इंजेक्शन एक हमला है जो AI द्वारा पढ़े जाने वाले डेटा—जैसे वेब पेज या फ़ाइलों—के भीतर AI के लिए निर्देश रोप देता है, जिससे वह अपने मूल निर्देशों को दरकिनार या अनदेखा कर देती है। इससे जानकारी का रिसाव या अनपेक्षित कार्रवाइयाँ हो सकती हैं।

बाहरी टूल और डेटा तक पहुँचने वाले AI एजेंट के लिए यह जोखिम विशेष रूप से अधिक है। इनपुट का सत्यापन, अधिकारों को न्यूनतम रखना, और तंत्र को इस तरह डिज़ाइन करना कि वह अविश्वसनीय डेटा के निर्देश न चलाए—जैसे उपाय महत्वपूर्ण हैं।