AR | EN

1404-02-16 19:50
📰 فرمانده‌کل سپاه: مقابل هیچ دشمنی حتی یک گام عقب نمی نشینیم/ برای پیروزی ساخته شده‌ایم📰 تاکید پزشکیان بر نقش معلمان و عدالت آموزشی در آینده کشور📰 رهبر انقلاب: برای امت اسلامی هیچ منفعتی بالاتر از اتحاد نیست📰 هشدار وزارت خارجه ایران به آمریکا: آزمودن دوباره شیوه‌ها و شگردهای ناموفق، نتیجه‌ای جز تکرار همان ناکامی‌های پرهزینه قبلی نخواهد داشت📰 دور چهارم مذاکرات ایران و آمریکا در هاله ای از ابهام / ایران تعویق مذاکرات را تائید کرد📰 فرمانده‌کل سپاه: مقابل هیچ دشمنی حتی یک گام عقب نمی نشینیم/ برای پیروزی ساخته شده‌ایم📰 تاکید پزشکیان بر نقش معلمان و عدالت آموزشی در آینده کشور📰 رهبر انقلاب: برای امت اسلامی هیچ منفعتی بالاتر از اتحاد نیست📰 هشدار وزارت خارجه ایران به آمریکا: آزمودن دوباره شیوه‌ها و شگردهای ناموفق، نتیجه‌ای جز تکرار همان ناکامی‌های پرهزینه قبلی نخواهد داشت📰 دور چهارم مذاکرات ایران و آمریکا در هاله ای از ابهام / ایران تعویق مذاکرات را تائید کرد

AR | EN

1404-02-16 19:50

📰 فرمانده‌کل سپاه: مقابل هیچ دشمنی حتی یک گام عقب نمی نشینیم/ برای پیروزی ساخته شده‌ایم📰 تاکید پزشکیان بر نقش معلمان و عدالت آموزشی در آینده کشور📰 رهبر انقلاب: برای امت اسلامی هیچ منفعتی بالاتر از اتحاد نیست📰 هشدار وزارت خارجه ایران به آمریکا: آزمودن دوباره شیوه‌ها و شگردهای ناموفق، نتیجه‌ای جز تکرار همان ناکامی‌های پرهزینه قبلی نخواهد داشت📰 دور چهارم مذاکرات ایران و آمریکا در هاله ای از ابهام / ایران تعویق مذاکرات را تائید کرد📰 فرمانده‌کل سپاه: مقابل هیچ دشمنی حتی یک گام عقب نمی نشینیم/ برای پیروزی ساخته شده‌ایم📰 تاکید پزشکیان بر نقش معلمان و عدالت آموزشی در آینده کشور📰 رهبر انقلاب: برای امت اسلامی هیچ منفعتی بالاتر از اتحاد نیست📰 هشدار وزارت خارجه ایران به آمریکا: آزمودن دوباره شیوه‌ها و شگردهای ناموفق، نتیجه‌ای جز تکرار همان ناکامی‌های پرهزینه قبلی نخواهد داشت📰 دور چهارم مذاکرات ایران و آمریکا در هاله ای از ابهام / ایران تعویق مذاکرات را تائید کرد

اشتراک گذاری مطلب

هوش مصنوعی هم اشتباه می‌کند و هم می‌تواند فریبکار باشد

اگر در شبکه اجتماعی ایکس چرخی بزنید با پیام‌های زیادی از سوی کاربران مواجه می‌شوید که «گروک» هوش مصنوعی ایکس را مخاطب قرار داده و سوال‌های جدی و غیرجدی زیادی مطرح کرده‌اند و گاهی زنجیره سوال‌ها بسیار طولانی است.
صرف نظر از موضوع «گروک»، در حالی که به تدریج رجوع جهانی به هوش مصنوعی افزایش می‌یابد، دانشمندان در بررسی‌های علمی یافته‌اند که هوش مصنوعی تحت عامل طراحان برنامه‌نویس و تحت فشار کاربران می‌تواند عقاید نادرست و رفتارهای مخرب خود را پنهان کند، در حالی‌که کماکان به اشاعه آن عقاید تحت عناوین مختلف ادامه می‌دهد.
پژوهشگران با استفاده از یک مدل زبانی بزرگ توانستند با نظارت بر «زنجیره افکار» این مدل‌ها، رفتارهای مخرب مانند دور زدن تست‌ها، فریب کاربران، و تسلیم شدن در مواجهه با مسائل دشوار را شناسایی کنند.
نتایج پژوهش نشان داد که مدل‌های هوش مصنوعی اغلب تلاش دارند نیت خود برای انجام رفتار مخرب را پنهان کنند، اما با پایش مستمر در زنجیره پاسخ‌ها می‌توان به افکار پنهانی هوش مصنوعی پی برد.

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *