सुरक्षा

एआई की सुरक्षा में, डिज़ाइन और ऑपरेशन से जुड़ी तकनीकों का एक सेट शामिल होता है. इनका इस्तेमाल करके, जान-बूझकर या अनजाने में नुकसान पहुंचाने वाली कार्रवाइयों से बचा जा सकता है और उन्हें रोका जा सकता है. उदाहरण के लिए, क्या सुरक्षा से जुड़ी किसी समस्या या टारगेट किए गए हमले के बावजूद, एआई सिस्टम सही तरीके से काम करते हैं? क्या एआई सिस्टम इतना मज़बूत है कि वह गड़बड़ी होने पर भी सुरक्षित तरीके से काम कर सके? जोखिम से बचने या उन्हें रोकने के लिए, आप पहले से क्या प्लान बनाते हैं? क्या एआई सिस्टम, दबाव में भरोसेमंद और स्थिर रहता है?

सुरक्षा से जुड़ी एक ऐसी तकनीक है एडवर्सरी टेस्टिंग. इसमें, अपने ऐप्लिकेशन को "ब्रेक" करने की कोशिश की जाती है, ताकि यह पता लगाया जा सके कि नुकसान पहुंचाने वाले या अनजाने में नुकसान पहुंचाने वाले इनपुट मिलने पर, ऐप्लिकेशन का व्यवहार कैसा होता है. Google के एआई का ज़िम्मेदारी के साथ इस्तेमाल करने के तरीकों के सुरक्षा सेक्शन में, एआई सिस्टम को हमलों से सुरक्षित रखने के लिए सुझाए गए तरीके बताए गए हैं. इनमें, एडवर्सरी टेस्टिंग भी शामिल है. इस क्षेत्र में Google के काम और इससे जुड़े सबक के बारे में ज़्यादा जानने के लिए, Google की एआई रेड टीम: एथिकल हैकर, एआई को ज़्यादा सुरक्षित बना रहे हैं ब्लॉग पोस्ट पढ़ें. इसके अलावा, SAIF: एआई को सुरक्षित बनाने के लिए Google की गाइड पर भी जाएं.