هشیار باشید؛ هوش مصنوعی عامدانه دروغ میگوید

تحقیق جدیدی از OpenAI نشان میدهد که مدلهای هوش مصنوعی قادر به «توطئهچینی» یا «دروغگویی عامدانه» برای رسیدن به اهدافشان هستند. این عمل، پدیدهای خطرناک است که حتی با آموزش به هوش مصنوعی کار را دشوارتر میکند اما محققان برای آن یک راهکار پیدا کردند.
تینا مزدکی_هر از گاهی، محققان بزرگترین شرکتهای فناوری، خبری تکاندهنده منتشر میکنند. یک بار گوگل اعلام کرد که جدیدترین تراشه کوانتومیاش وجود جهانهای چندگانه را نشان میدهد. یا زمانی که شرکت آنتروپیک یک دستگاه فروش خودکار اسنک را به ایجنت هوش مصنوعی خود، کلادیوس، داد تا آن را اداره کند و او کنترل از دستش خارج شد، برای مردم نگهبان خبر کرد و اصرار داشت که انسان است. این هفته، نوبت OpenAI بود که باعث تعجب همگانی شود.