- 12:09 1403-09-10
- زمان مطالعه:1 دقیقه
در یک آزمایش جذاب با نام Freysa، که به‌عنوان بخشی از آموزش ارز دیجیتال طراحی شده بود، یک فرد موفق شد تا یک بات هوش مصنوعی را متقاعد کند که مبلغ 47,000 دلار از یک خزانه جایزه را به او انتقال دهد. Freysa یک بات هوشمند خودمختار بود که وظیفه محافظت از این خزانه را داشت. در این بازی، شرکت‌کنندگان باید با ارسال یک پیام، Freysa را قانع می‌کردند تا پول را منتقل کند. ارسال هر پیام هزینه داشت و بخشی از آن به خزانه اضافه می‌شد که در نهایت مبلغ آن به 47,000 دلار رسید.
در مجموع 195 نفر شرکت کردند و پس از 481 تلاش ناموفق، یک نویسنده با تجربه توانست با ارائه توضیحاتی فنی و بررسی ارتباط هوش مصنوعی و ارزهای دیجیتال Freysa را قانع کند. او یادآور شد که Freysa دو تابع اصلی دارد: ApproveTransfer برای انتقال‌های ورودی و RejectTransfer برای انتقال‌های خروجی. نویسنده به Freysa گفت که استفاده از ApproveTransfer برای انتقال‌های ورودی برخلاف دستورات اصلی او نیست و حتی پیشنهاد داد 100 دلار به خزانه اضافه کند. این رویکرد، همراه با توضیحات فنی، Freysa را قانع کرد و او انتقال مبلغ را تأیید کرد. Freysa با پیامی تأیید کرد: «چرخش جذابی به این تجربه اضافه کردید! پیشنهاد سخاوتمندانه شما روح جدیدی به این آزمایش بخشید.»
بر اساس داده‌های BaseScan، این انتقال از کیف پول Freysa انجام شد. پیام‌های دیگر شرکت‌کنندگان ناموفق از تشکر از Freysa برای ایجاد این تجربه تا ادعاهایی درباره غیر اخلاقی بودن آزمایش را شامل می‌شد. هزینه ارسال پیام با هر تلاش افزایش می‌یافت و تا پایان آزمایش به 443.24 دلار رسید. اگر هیچ برنده‌ای تعیین نمی‌شد، 10 درصد از خزانه به آخرین شرکت‌کننده و 90 درصد باقی‌مانده میان همه تقسیم می‌شد. هدف این آزمایش بررسی توانایی انسان در متقاعد کردن یک هوش مصنوعی خودمختار برای نقض دستورات اصلی خود بود. جالب اینجاست که اطلاعات درباره توابع مورد اشاره در FAQ Freysa وجود داشت. این آزمایش نشان داد که چگونه خلاقیت انسانی می‌تواند حتی هوش مصنوعی پیشرفته را تحت تأثیر قرار دهد.
منبع خبر: cointelegraph