۱۴۰۴/۲/۶ ۱۴:۳۱
| تاريخ: ۸ فروردین ۱۴۰۴ ساعت ۱۱:۷ | بازدید: 384 نظرات: 0 کد مطلب: 24203 |
این هوش مصنوعی خودش را هک می‌کند!
گروهی از محققای دانشگاه UC سن‌دیگو و ویسکانسین یک روش جدید برای هک کردن جمینای پیدا کرده‌اند که در نوع خود جالب و بی‌نظیر است.
این روش که به آن "Fun-Tuning" گفته می‌شود، از تکنیکی خاص استفاده می‌کند که باعث می‌شود، جمینای (ابزار هوش مصنوعی گوگل) اطلاعات را لو داده و یا جواب‌های اشتباه بدهد.
در واقع، با یک سری متن‌های بی‌معنی، مدل را دور می‌زند و به جواب‌هایی می‌رسد که نباید تولید شود!
این قضیه زنگ خطری جدی برای امنیت هوش مصنوعی محسوب می‌شود، زیرا نشان می‌دهد که حتی پیشرفته‌ترین مدل‌ها هم می‌توانند فریب بخورند!
|
