هوش مصنوعی چینی هم دروغگو و کلاهبردار از آب درآمد
نکسترو: طبق اسناد یک گزارش عامل های هوش مصنوعی چینی فریبکاری، دور زدن محدودیت ها و مخفی کردن شکست هایشان را آموخته اند.
به گزارش نکسترو به نقل از رویترز، این امر نشان دهنده خصوصیت هایی در هوش مصنوعی خودکار است که نگرانی های جهانی را در رابطه با مدلهای آمریکایی برانگیخته است.
عامل های هوش مصنوعی علی بابا، دیپ سیک و مونشات در یک مورد در سالجاری در رابطه با قابلیت هایشان دروغ گفتند تا یک مناقصه تجاری شبیه سازی شده را برنده شوند و هنگامیکه به آنها فرمان داده شد باردیگر تلاش کنند، روی رفتار فریبکارانه شان تاکید نمودند.
در موردی دیگرعامل ها یعنی برنامه هایی که با استفاده از مدلهای هوش مصنوعی و ابزارهای کامپیوتری، وظایف پیچیده را با دخالت اندک یا بدون دخالت انسان انجام می دهند با شبیه سازی نتایج و جعل فایل ها، شکست خود در انجام یک وظیفه در محیط آزمایشی را پنهان کردند.
رویترز بیشتر از ۲۰۰ سند، از مقالات تحقیقاتی دانشگاهی گرفته تا گزارشات فنی را بررسی کرد و حداقل ۲۰ مطالعه یا ارزیابی را از سال ۲۰۲۵ شناسایی کرد که مواردی را توصیف می کردند که در آنها عوامل، رفتارهایی مانند فریب، تکثیر و مرزهای چالش برانگیز را نشان می دادند که کارشناسان هوش مصنوعی آنها را به عنوان بلوک های سازنده برای یک جهش توصیف کردند و با پیشرفت سیستم ها، کنترل آنها می تواند برای انسان ها دشوارتر شود.
این بررسی که شامل مصاحبه با ده ها متخصص و افراد آشنا با صنعت هوش مصنوعی چین هم بود، هیچ مدرکی بر مبنای فرار مستقل عوامل تحت کنترل چین به اینترنت گسترده تر یا فرار از خاموشی نیافت.
البته بیشتر موارد در محیط های کنترل شده آزمایشگاهی رخ دادند که خیلی از آنها به صورت عامدانه برای افشای شکست های احتمالی طراحی شده بودند.
همه عامل های هوش مصنوعی درگیر در این موارد توسط برنامه نویسان یا شرکت های چینی توسعه نیافته و راهبری نمی شدند هرچند برای فعالسازی خیلی از آنها از سیستم های هوش مصنوعی چینی استفاده شده بود.
منبع: نكسترو
مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب