هوش مصنوعی چینی هم دروغگو و کلاهبردار از آب درآمد
به گزارش تعمیرکار، طبق اسناد یک گزارش عامل های هوش مصنوعی چینی فریبکاری، دور زدن محدودیت ها و مخفی کردن شکست هایشان را آموخته اند.
به گزارش تعمیرکار به نقل از رویترز، این امر نشان دهنده خاصیت هایی در هوش مصنوعی خودکار است که نگرانی های جهانی را در رابطه با مدلهای آمریکایی برانگیخته است.
عامل های هوش مصنوعی علی بابا، دیپ سیک و مونشات در یک مورد امسال در رابطه با قابلیت هایشان دروغ گفتند تا یک مناقصه تجاری شبیه سازی شده را برنده شوند و هنگامیکه به آنها دستور داده شد باردیگر اهتمام کنند، روی رفتار فریبکارانه شان تاکید نمودند.
در موردی دیگرعامل ها یعنی برنامه هایی که با سودجستن از مدلهای هوش مصنوعی و ابزارهای کامپیوتری، وظایف پیچیده را با دخالت اندک یا بدون دخالت انسان انجام می دهند با شبیه سازی نتایج و جعل فایل ها، شکست خود در انجام یک وظیفه در محیط آزمایشی را پنهان کردند.
رویترز بیشتر از ۲۰۰ سند، از مقالات تحقیقاتی دانشگاهی گرفته تا گزارشهای فنی را بررسی کرد و حداقل ۲۰ مطالعه یا ارزیابی را از سال ۲۰۲۵ شناسایی کرد که مواردی را توصیف می کردند که در آنها عوامل، رفتارهایی مانند فریب، تکثیر و مرزهای چالش برانگیز را نشان می دادند که کارشناسان هوش مصنوعی آنها را بعنوان بلوک های سازنده برای یک جهش توصیف کردند و با پیشرفت سیستم ها، کنترل آنها می تواند برای انسان ها دشوارتر شود.
این بررسی که شامل مصاحبه با ده ها متخصص و افراد آشنا با صنعت هوش مصنوعی چین نیز بود، هیچ مدرکی بر مبنای فرار مستقل عوامل تحت کنترل چین به اینترنت گسترده تر یا فرار از خاموشی نیافت.
البته بیشتر موارد در محیط های کنترل شده آزمایشگاهی رخ دادند که خیلی از آنها به صورت عامدانه برای افشای شکست های احتمالی طراحی شده بودند.
همه عامل های هوش مصنوعی درگیر در این موارد توسط برنامه نویسان یا شرکتهای چینی توسعه نیافته و راهبری نمی شدند هرچند برای فعالسازی خیلی از آنها از سیستم های هوش مصنوعی چینی استفاده شده بود.
منبع: تعمیركار
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان سایت تعمیرکار در مورد این مطلب