فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

پربیننده ترین پست همین یک ساعت اخیر
ارسال به دوستان
شنیده شدن صدای چند انفجار از حوالی بندرعباس شهادت مرزبان هنگ مرزی سردشت در درگیری با قاچاقچیان مسلح  بقایی: اگر مذاکره‌ای هم صورت بگیرد به دلیل فاکتور رژیم صهیونیستی احتمال مرحله دیگری از جنگ وجود دارد انتقاد عراقچی از تحرکات ضد ایرانی آمریکا و بحرین اعلام زمان برگزاری دور جدید مذاکرات لبنان و اسرائیل درباره اینترنت پُر رو : این حق مردمی نیست که در جنگ، پای میهن ایستادند مسکو: نیروهای‌مان در طول آتش‌ بس تمامی عملیات‌ ها را متوقف خواهند کرد اردوغان: اسرائیل تهدید امنیتی برای منطقه است جزئیات آتش بس روسیه و اوکراین اعلام شد ویگن ؛ گلنسا جونم کارا بهتر می شه! (+صدا) ۱۰ اثر زیبا و ماندگار از «جواد بدیع‌زاده» (همین الان بشنوید) موشک همجوشی هسته ای و کاهش زمان سفر از 500 روز به 90 روز! افزایش شمار شهدای لبنان از ۲ مارس تاکنون به ۲۷۲۷ نفر اسامی ۴ زن و ۴ مرد جان باخته در آتش سوزی مجتمع ارغوان اندیشه اعلام جرم علیه دو نفر در انگلیس به اتهام جاسوسی برای هنگ‌کنگ