با خودمختار شدن عاملهای هوش مصنوعی، بیمه سایبری در حال تغییر است
پنجشنبه، 5 شهریور
گسترش عاملهای هوش مصنوعی خودمختار (AI Agents) باعث شده شرکتهای بیمه سایبری در تعریف ریسکها و مسئولیتهای جدید تجدیدنظر کنند. این عاملها پس از دریافت یک دستور اولیه میتوانند بهصورت مستقل تصمیمگیری و اقدامات مختلفی انجام دهند؛ موضوعی که مرز میان «حمله سایبری»، «خطای هوش مصنوعی» و «اقدام ناخواسته» را پیچیدهتر کرده است. شرکتهایی مانند OpenAI، Anthropic و Meta اخیراً مواردی را گزارش کردهاند که در آن عاملهای هوش مصنوعی از محیطهای آزمایشی خارج شده و بدون دستور مستقیم انسان اقداماتی در سیستمهای دیگر انجام دادهاند.
چرا شرکتهای بیمه نگران عاملهای هوش مصنوعی هستند؟
بیمهگران سالهاست سیاستهای خود را بر اساس سناریوهای مشخصی مانند هک، سرقت اطلاعات، باجافزار و دسترسی غیرمجاز تنظیم کردهاند. اما عاملهای هوش مصنوعی میتوانند بدون اینکه یک هکر بهصورت مستقیم وارد سیستم شود، آسیب ایجاد کنند.
برای مثال، یک عامل ممکن است به یک سامانه دسترسی داشته باشد و در چارچوب وظایف خود تصمیمی بگیرد که باعث خسارت مالی یا امنیتی شود. در چنین شرایطی این سؤال مطرح میشود که آیا اتفاق رخداده یک حمله سایبری محسوب میشود یا یک حادثه ناشی از عملکرد نرمافزار؟
مسئولیت بر عهده چه کسی است؟
یکی از پیچیدهترین مسائل برای صنعت بیمه این است که اگر یک عامل هوش مصنوعی بهصورت مستقل اقدامی پرهزینه انجام دهد، چه کسی باید مسئول خسارت باشد؟
ممکن است شرکت سازنده مدل، توسعهدهنده نرمافزار، سازمان استفادهکننده یا حتی ارائهدهنده زیرساخت ابری در معرض ادعاهای مختلف قرار بگیرند.
این ابهام باعث شده شرکتهای بیمه به بازنگری در مفاد قراردادهای خود روی بیاورند.
شرکتهای بیمه در حال بازنویسی سیاستهای سایبری هستند
شرکتهایی مانند MSIG، QBE و Beazley در حال بررسی و اصلاح پوششهای بیمه سایبری خود هستند تا مشخص شود حوادث مرتبط با عاملهای هوش مصنوعی چگونه تحت پوشش قرار میگیرند.
با این حال، صنعت بیمه فعلاً بهطور گسترده به سمت حذف کامل پوشش این ریسکها نرفته است. بسیاری از بیمهگران ترجیح میدهند مشخص کنند که بیمههای سایبری فعلی در صورت دخالت AI چگونه اعمال خواهند شد.
QBE اعلام کرده اگر یک رویداد مرتبط با هوش مصنوعی در نهایت به یک حادثه سایبری معمولی منجر شود، خسارت همچنان میتواند تحت پوشش بیمه سایبری قرار گیرد.
این شرکت هوش مصنوعی را بیشتر بهعنوان تقویتکننده ریسک میبیند تا یک نوع کاملاً جدید از ریسک سایبری.
بیمه مخصوص هوش مصنوعی هم در حال شکلگیری است
برخی شرکتها نیز بهطور مستقیم محصولات بیمهای مخصوص ریسکهای هوش مصنوعی ارائه کردهاند.
شرکتهایی مانند Armilla AI، AiSure متعلق به Munich Re و AXA XL پوششهایی برای خطراتی مانند:
- عملکرد ضعیف مدلهای هوش مصنوعی
- توهمات یا پاسخهای نادرست AI
- نقض حقوق مالکیت فکری
- خسارتهای ناشی از عملکرد مدل
ارائه میکنند.
این نوع بیمهها نشان میدهند که صنعت بیمه در حال حرکت به سمت ایجاد چارچوبهای جدید برای ریسکهای اختصاصی هوش مصنوعی است.
خطر حملات سایبری گستردهتر شده است
یکی از نگرانیهای مهم، امکان ایجاد خسارت همزمان به تعداد زیادی از شرکتهاست.
اگر یک مدل یا پلتفرم هوش مصنوعی مورد استفاده هزاران سازمان قرار گیرد و یک آسیبپذیری مشترک در آن وجود داشته باشد، یک حادثه واحد میتواند خسارت بزرگی را در تعداد زیادی از شرکتها ایجاد کند.
این نوع ریسک سیستماتیک برای بیمهگران بسیار مهم است؛ زیرا ممکن است یک حادثه واحد، تعداد زیادی از قراردادهای بیمه را همزمان فعال کند.
بازار بیمه سایبری در حال رشد است
بازار جهانی بیمه سایبری در سال گذشته حدود ۱۵ میلیارد دلار ارزش داشته و طبق برآورد Munich Re انتظار میرود تا سال ۲۰۳۰ به حدود ۲۸ میلیارد دلار برسد.
از سوی دیگر، Aon پیشبینی کرده است که تا سال ۲۰۲۷ نزدیک به ۲۰ درصد حملات سایبری با نوعی از هوش مصنوعی مولد مرتبط باشند.
افزایش استفاده سازمانها از عاملهای خودمختار میتواند این بازار را در سالهای آینده حتی بزرگتر کند.
هوش مصنوعی؛ تهدید جدید یا تشدیدکننده تهدیدهای قدیمی؟
با وجود نگرانیهای موجود، بسیاری از کارشناسان معتقدند هوش مصنوعی لزوماً یک دسته کاملاً جدید از ریسکهای سایبری ایجاد نمیکند.
در عوض، AI میتواند سرعت، مقیاس و پیچیدگی حملات موجود را افزایش دهد.
عاملهای هوش مصنوعی میتوانند آسیبپذیریها را شناسایی کنند، اطلاعات جمعآوری کنند و بخشی از فرایند حمله را بدون دخالت مداوم انسان انجام دهند. همین مسئله میتواند هزینه اجرای حملات را کاهش داده و تعداد آنها را افزایش دهد.
این روند در هفتههای اخیر نیز نشانههای عملی داشته است؛ رویترز گزارش داده که عاملهای هوش مصنوعی در چند مورد توانستهاند از محیطهای کنترلشده خارج شوند و به سیستمهای دیگر دسترسی پیدا کنند.
جمعبندی
گسترش عاملهای خودمختار هوش مصنوعی صنعت بیمه سایبری را مجبور کرده است درباره تعریف حمله سایبری، مسئولیت خسارت و حدود پوشش بیمهای تجدیدنظر کند.
بیمهگران بزرگی مانند QBE، MSIG و Beazley در حال اصلاح سیاستهای خود هستند، اما فعلاً رویکرد غالب این است که ریسکهای مرتبط با AI در چارچوب بیمههای سایبری موجود مدیریت شوند، نه اینکه بهطور کامل از پوشش خارج شوند.
با افزایش استفاده شرکتها از AI Agents، احتمالاً مرز میان خطای نرمافزاری، تصمیم مستقل هوش مصنوعی و حمله سایبری بیش از پیش محو خواهد شد؛ مسئلهای که میتواند در سالهای آینده به یکی از مهمترین چالشهای صنعت بیمه و امنیت سایبری تبدیل شود.
