یک کارمند گزارش محرمانه را برای خلاصه‌سازی در چت‌بات عمومی می‌گذارد. برنامه‌نویس کد شرکت را برای رفع خطا کپی می‌کند. هیچ‌کدام قصد بدی ندارند و فقط می‌خواهند کارشان سریع‌تر انجام شود. به استفاده از ابزارهای هوش مصنوعی بدون اطلاع و تأیید سازمان «هوش مصنوعی پنهان» یا Shadow AI می‌گویند.
آمار تازه چه می‌گوید؟
بر اساس پوشش خبری گزارش ۲۰۲۶ هزینهٔ نشت دادهٔ IBM، هوش مصنوعی پنهان در ۴۳ درصد رخدادهای بررسی‌شده دیده شده است، در حالی که سال قبل این رقم ۲۰ درصد بود. میانگین هزینهٔ این رخدادها ۵٫۳۹ میلیون دلار اعلام شده، در حالی که میانگین جهانی نشت داده ۴٫۹۹ میلیون دلار است. این گزارش به سازمان‌های بزرگ در چند کشور مربوط است و نمی‌توان عدد آن را مستقیماً به یک شرکت ایرانی تعمیم داد، ولی جهت کلی روشن است.
ریسک‌ها دقیقاً چیست؟
- افشای داده: اطلاعات مشتری، قرارداد یا کد ممکن است در سرویس بیرونی ذخیره شود.
- ابهام در نگهداری: بسیاری نمی‌دانند داده چقدر نگه داشته می‌شود و آیا برای آموزش مدل به کار می‌رود.
- پاسخ اشتباه: خروجی می‌تواند نادرست باشد و بدون بازبینی وارد سند یا تصمیم شود.
- کد ناامن: کد تولیدشده ممکن است آسیب‌پذیری یا بستهٔ نامعتبر داشته باشد.
- حساب شخصی: وقتی کارمند از حساب شخصی استفاده می‌کند، سازمان هیچ کنترل و گزارشی ندارد.
- افزونه‌ها: افزونه و عامل با دسترسی به ایمیل یا فایل، سطح حملهٔ تازه‌ای می‌سازند.
چرا ممنوعیت کامل جواب نمی‌دهد؟
اگر ابزار جایگزینی وجود نداشته باشد، کارکنان راه دیگری پیدا می‌کنند؛ مثلاً گوشی شخصی که اصلاً در دید واحد فناوری نیست. پس ممنوعیت کامل فقط مشکل را پنهان‌تر می‌کند. راه‌حل بهتر این است که مسیر امن و تأییدشده‌ای فراهم شود که استفاده از آن از مسیر ناامن ساده‌تر باشد.
هفت گام عملی
- شناسایی: با گزارش پراکسی و DNS ببینید چه سرویس‌هایی استفاده می‌شود.
- گفت‌وگو: از واحدها بپرسید برای چه کاری به این ابزارها نیاز دارند، بدون حالت تنبیهی.
- دسته‌بندی داده: مشخص کنید چه داده‌ای هرگز نباید بیرون برود و چه داده‌ای مجاز است.
- فهرست مجاز: ابزارهای بررسی‌شده را معرفی کنید و شرایط قراردادی‌شان را بخوانید.
- سیاست کوتاه: یک صفحهٔ ساده با مثال واقعی، نه یک سند طولانی که کسی نمی‌خواند.
- کنترل فنی: برای فایل‌ها و دادهٔ حساس راهکار جلوگیری از نشت داده به کار ببرید.
- آموزش: نمونهٔ درست و غلط نشان دهید و یادآوری کنید خروجی همیشه باید بازبینی شود.
مدل درون‌سازمانی؛ گزینه‌ای برای دادهٔ حساس
برای سازمان‌هایی که نمی‌خواهند داده از شبکه خارج شود، اجرای مدل متن‌باز روی سرور داخلی می‌تواند مناسب باشد. ولی این کار خودش ریسک دارد. گزارش GreyNoise از هزاران نشست حمله به سرورهای Ollama خبر داده و به وجود حدود ۱۷۵ هزار سرور در معرض اینترنت اشاره کرده است. چنین سرویسی نباید بدون احراز هویت روی اینترنت باز باشد و باید مانند هر سامانهٔ حساس دیگری نگهداری و پایش شود.
چه کسی مسئول است؟
این موضوع فقط کار واحد فناوری نیست. مدیریت باید خط‌مشی را تأیید کند، واحد حقوقی قراردادها و تعهد محرمانگی را ببیند، واحد امنیت کنترل‌ها را اجرا کند و مدیران هر بخش نیاز واقعی را مطرح کنند. یک کارگروه کوچک با جلسه‌های منظم معمولاً بهتر از یک بخشنامهٔ یک‌باره عمل می‌کند، چون این ابزارها مدام در حال تغییرند.
Sources
- IBM: گزارش هزینهٔ نشت داده ۲۰۲۶، به نقل از Help Net Security
- GreyNoise: گزارش State of the Edge 2026
برای تدوین سیاست و کنترل‌های امنیتی استفاده از هوش مصنوعی در سازمان خود می‌توانید با کارشناسان پارتاک گفت‌وگو کنید.
