با گسترش مرورگرهای هوش مصنوعی، نگرانی‌ها درباره نوعی حمله نوظهور به نام «تزریق پرامپت» (prompt injection) افزایش یافته است. این حمله برخلاف هک‌های سنتی که به کدنویسی و نفوذ به سرورها متکی‌اند، تنها با کلمات کار می‌کند و می‌تواند کاربران را تا مرز از دست دادن دارایی‌هایشان پیش ببرد.
مدل‌های زبانی بزرگ مانند ChatGPT یا Gemini بر پایه «پرامپت»ها عمل می‌کنند؛ یعنی همان دستورها و پرسش‌هایی که کاربران یا توسعه‌دهندگان ارائه می‌دهند. مشکل آنجاست که این مدل‌ها همیشه نمی‌توانند میان دستورهای پنهانی (مثلا قوانین امنیتی داخلی) و درخواست‌های کاربر تمایز قائل شوند. همین ضعف، زمینه‌ساز سوءاستفاده است.
مرورگر Brave که دستیار هوش مصنوعی خود به نام Leo را توسعه داده، اخیرا نشان داد چگونه یک وب‌سایت می‌تواند با دستورهای نامرئی مرورگر هوش مصنوعی را فریب دهد و به داده‌های حساس کاربر دست یابد. کافی است دستورهای مخرب در متنی بی‌ضرر یا حتی نامرئی برای چشم انسان جاسازی شوند؛ دستورهایی که مدل زبانی بدون هیچ مقاومتی اجرا می‌کند.
خطر زمانی جدی‌تر می‌شود که صحبت از «مرورگرهای عامل‌محور» یا Agentic Browsers باشد. این مرورگرها تنها ابزار جست‌وجو نیستند، بلکه می‌توانند کل فرایندها را بدون دخالت انسان اجرا کنند؛ از خرید بلیت پرواز تا تکمیل فرم‌های بانکی. حال تصور کنید مرورگری که به کارت بانکی کاربر دسترسی دارد، به دستور پنهان یک وب‌سایت جعلی پاسخ دهد و هزینه سفر شخص دیگری را پرداخت کند.
بررسی‌های Brave نشان داده سرویس Comet از شرکت Perplexity همچنان در برابر چنین حملاتی آسیب‌پذیر است. تلاش‌های این شرکت برای رفع مشکل تاکنون به‌طور کامل موفق نبوده است.
کارشناسان امنیتی تاکید می‌کنند که مرورگرهای عامل‌محور باید توانایی تشخیص دستورهای کاربر از محتوای وب را پیدا کنند. در غیر این صورت، استفاده از آن‌ها می‌تواند به بهای از دست رفتن داده‌های مالی یا هویتی تمام شود.
برای کاهش خطر، متخصصان توصیه می‌کنند کاربران تنها دسترسی‌های ضروری را به مرورگر بدهند، منبع لینک‌ها و وب‌سایت‌ها را با دقت بررسی کنند، نرم‌افزار را به‌روز نگه دارند و برای حساب‌های حساس از احراز هویت چندمرحله‌ای استفاده کنند. همچنین، خودکارسازی کامل تراکنش‌های مالی پرریسک بدون نظارت انسانی توصیه نمی‌شود.
توضیحات بیشتر:
AI browsers could leave users penniless: A prompt injection warning