تهدید در چت‌بات و دستگیری؛ قفلی که دیگر خصوصی نیست
یک زن ساکن فلوریدا پس از ارسال پیامی تهدیدآمیز به چت‌بات Claude در مورد حمله مسلحانه به اداره کلانتر شهرستان لی، به دلیل گزارش مستقیم شرکت Anthropic به پلیس دستگیر شده است. این کاربر ادعا می‌کرد از ابزار هوش مصنوعی مانند یک دفترچه خاطرات استفاده می‌کند، اما تیم بررسی انسانی Anthropic این پیام را خطرناک تشخیص داد و به مقامات اطلاع داد. این سومین مورد از ماه آگوست است که مکالمات کاربران با هوش مصنوعی به دستگیری منجر می‌شود. این خبر در منابع معتبر بین‌المللی تأیید شده است.
یک زن ساکن فلوریدا پس از ارسال تهدیدی درباره حمله به اداره کلانتر شهرستان لی در چت‌بات کلود، به دستور مقامات قضایی دستگیر شد. طبق گزارش‌ها، این کاربر در پیامی به کلود گفته بود که قصد دارد به این اداره حمله مسلحانه انجام دهد. پس از این مکالمه، تیم بررسی انسانی شرکت آنتروپیک، سازنده کلود، پیام را به عنوان تهدید جدی تشخیص داد و به مقامات محلی اطلاع داد که در نهایت منجر به بازداشت این زن شد.
این فرد در برابر پلیس ادعا کرده که از این ابزار هوش مصنوعی مانند یک دفترچه خاطرات استفاده می‌کرده و قصد واقعی برای اجرای تهدید خود نداشته است. با این حال، مقامات امنیتی این پیام را خطرناک ارزیابی کرده و به آن واکنش نشان داده‌اند. قابل توجه است که این سومین مورد از ماه آگوست به شمار می‌رود که در آن مکالمات کاربران با هوش مصنوعی به دستگیری منجر شده است. این رویداد بار دیگر این پرسش را مطرح می‌کند که تعاملات ما با چت‌بات‌ها هرگز آن‌قدر خصوصی نیستند که تصور می‌کنیم، و شرکت‌های هوش مصنوعی ممکن است محتوای این گفتگوها را در صورت خطر برای واکنش امنیتی ارزیابی کنند.
این فرد در برابر پلیس ادعا کرده که از این ابزار هوش مصنوعی مانند یک دفترچه خاطرات استفاده می‌کرده و قصد واقعی برای اجرای تهدید خود نداشته است. با این حال، مقامات امنیتی این پیام را خطرناک ارزیابی کرده و به آن واکنش نشان داده‌اند. قابل توجه است که این سومین مورد از ماه آگوست به شمار می‌رود که در آن مکالمات کاربران با هوش مصنوعی به دستگیری منجر شده است. این رویداد بار دیگر این پرسش را مطرح می‌کند که تعاملات ما با چت‌بات‌ها هرگز آن‌قدر خصوصی نیستند که تصور می‌کنیم، و شرکت‌های هوش مصنوعی ممکن است محتوای این گفتگوها را در صورت خطر برای واکنش امنیتی ارزیابی کنند.