جنجال خبر جعلی تصادف قطار/ پای هوش مصنوعی در میان است
تاریخ انتشار: ۲۰ اردیبهشت ۱۴۰۲ | کد خبر: ۳۷۷۲۲۲۶۴
پلیس چین مردی را به اتهام استفاده از چت جی پی تی برای تولید اخبار جعلی درباره یک رویداد تصادف قطار دستگیر کرد.
به گزارش مهر به نقل از سی ان بی سی، به نظر میرسد این نخستین مورد از اقدامات اجرایی در چین تحت قانون بی سابقه مرتبط با هوش مصنوعی به حساب میآید.
این پرونده نشان دهنده تلاش مقامات چینی برای قانونمندسازی و کنترل موارد استفاده از هوش مصنوعی است.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمیشوند!
پلیس در ایالت گانسو واقع در شمال غربی چین مردی به نام «هونگ» را دستگیر کرده و مدعی است وی اخبار جعلی در خصوص تصادف قطاری ساخته که به کشته شدن ۹ نفر منجر شده است.
مقامات متوجه شدند بیش از ۲۰ حساب کاربری این خبر را در یک بلاگ متعلق به شرکت بایدو منتشر کرده اند. این پست آنها بیش از ۱۵ هزار بار بازدید داشته است.
به نظر میرسد هونگ از چت جی پی تی برای ایجاد نسخههای متفاوت از این خبر جعلی استفاده کرده تا بتواند از کنترلهای پلتفرم بایدو گذر کند.
چت جی پی تی که توسط شرکت اوپن آ آی ابداع شده یک نمونه از چت بات مبتنی بر هوش مصنوعی مولد است و به نرم افزار اجازه میدهد به سوالات پاسخ دهد. به عنوان مثال کاربران میتوانند از چت جی پی تی بخواهند براساس دستوراتی خاص یک داستان بسازد.
مقامات پلیس گانسو هونگ را طبق قانون ناظر بر «فناوریهای ترکیبی عمیق» دستگیر کردند. چین سال گذشته این قانون را تصویب کرده بود. فناوریهای ترکیبی عمیق به هوش مصنوعی اشاره دارد که برای تولید متن، تصویر، ویدئو یا محتوای دیگر به کار میرود. طبق قانون، نمیتوان از سرویسهای ترکیبی برای انتشار اخبار جعلی استفاده کرد.
چین پیش نویس قانون مذکور را در حالی اعلام کرد که چت جی پی تی در حال رشد و گسترش بود. همزمان مقامات سعی داشتند از این فناوری پیشی بگیرند.
در حال حاضر چت جی پی تی در چین فیلتر است، اما با استفاده از وی پی ان میتوان به آن دسترسی یافت. از سوی دیگر غولهای فناوری چینی مشغول آموزش نسخههای رقیب چت جی پی تی هستند که البته به طور گسترده در دسترس نخواهند بود. در عوض شرکتهای چینی کاربردهای خاص را در نظر گرفته اندتا دولت و رگولاتورها را بیمناک نکنند.
منبع: فرارو
کلیدواژه: تصادف قطار چت جی پی تی هوش مصنوعی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را بهطور اتوماتیک از وبسایت fararu.com دریافت کردهاست، لذا منبع این خبر، وبسایت «فرارو» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۷۲۲۲۶۴ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتیکه در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
شرکتهای فناوری جعل عمیق ساخته شده توسط هوش مصنوعی را شناسایی کنند
ایتنا - در آستانه برگزاری انتخابات پارلمان اروپا در ماه ژوئن آینده، اتحادیه اروپا از شرکتهای بزرگ فناوری دیجیتال از جمله فیسبوک و تیکتاک خواست تا محتویات جعل عمیق (دیپفیک) ساخته شده با هوش مصنوعی را در فضای مجازی شناسایی کرده و هشدار دهند.
این توصیه بخشی از مجموعه دستورالعملهایی است که کمیسیون اروپا آن را در قالب قانون تعدیل محتوای فضای مجازی برای غولهای دیجیتال منتشر کرده تا آنها با خطراتی که انتخابات را تهدید میکند، از انتشار جمله اخبار نادرست، مقابله کنند.
تعدیل محتوا عبارت از شناسایی محتویات همرسان شده در فضای مجازی و کامنتهای کاربران است به نحوی که شرکت پیامرسان بتواند محتوای مضر و آسیبرساننده را پیدا کرده و مثلا برای آن برچسب هشدار بگذارد.
نهاد اجرایی اتحادیه اروپا مجموعهای از اقدامات را برای کنترل شرکتهای بزرگ فناوری مجازی، به ویژه در مورد تعدیل محتوا، به اجرا گذاشته است.
بزرگترین ابزار اروپا در این زمینه قانون خدمات دیجیتال است که بر اساس آن این بلوک ۲۲ بستر دیجیتال از جمله اینستاگرام، اسنپچت، یوتیوب و ایکس را با عنوان «بسیار بزرگ» مشخص کرده است.
در اواخر سال ۲۰۲۲ که بسترهای «اوپن آیای» و «چتجیپیتی» به صحنه آمدند، هیجان شدیدی در مورد هوش مصنوعی به وجود آمد، اما به موازات آن نگرانی اتحادیه اروپا در مورد مضرات این فناوری افزایش یافته است.
بروکسل به ویژه از تأثیر روسیه بر انتخابات ششم و نهم ژوئن اروپا با «دستکاری» و پخش «اطلاعات نادرست» بیم دارد.
کمیسیون اروپا روز سهشنبه در دستورالعملهای جدید خود اعلام کرد که پلتفرمهای بزرگ «باید خطرات ویژه مرتبط با هوش مصنوعی را ارزیابی کرده» و این خطرات را «مثلا با برچسبگذاری واضح محتوای تولید شده توسط هوش مصنوعی (مانند دیپفیک) کاهش دهند.»
این کمیسیون توصیه میکند که پلتفرمهای بزرگ تنها اطلاعات رسمی در مورد انتخابات را تبلیغ کنند و به منظور کاهش هر گونه خطر، «مانع پولسازی و داغ شدن» محتوایی شوند که «اصالت فرآیندهای انتخاباتی را تهدید میکند.»
تیری برتون، مجری ارشد فناوری اتحادیه اروپا گفت: «با دستورالعملهای امروز، ما در عین محافظت از اصل آزادی بیان، از تمام ابزارهای ارائه شده توسط دیاسای (دیجیتال سرویس اکت) استفاده کامل میکنیم تا اطمینان یابیم که پلتفرمها به تعهدات خود پایبندند و برای دستکاری در انتخابات ما مورد سوء استفاده قرار نمیگیرند.»
دستورالعملهای مورد اشاره از نظر قانونی الزامآور نیستند، اما پلتفرمها باید توضیح دهند که در صورت عدم رعایت آنها، چه اقدامات مؤثر دیگری برای محدود کردن خطرات انجام میدهند.
اتحادیه اروپا میتواند اطلاعات بیشتری را درخواست کند و اگر بازرسان بگویند که همکاری کامل نشده است، میتوانند شرکتها را مورد بررسی و تحقیق قرار دهند، تحقیقاتی که ممکن است منجر به صدور جریمههای سنگین برای شرکتهای دیجیتال شود.