کمک ساترا و هوش مصنوعی برای رصد و مسدود کردن فعالیت مجرمانه برخی سایتها
باشگاه خبرنگاران جوان فرهنگی هنری رادیو تلویزیون در گفتوگو با باشگاه خبرنگاران جوان مطرح شد؛ کمک ساترا و هوش مصنوعی برای رصد و مسدود کردن فعالیت مجرمانه برخی سایتها نظر دادن اشتراک گذاری دانلود PDF ۰۷:۴۵ – ۰۹ مهر ۱۴۰۳ ۸۸۳۱۸۵۷ ۰۷:۴۵ – ۰۹ مهر ۱۴۰۳ ۸۸۳۱۸۵۷ 
نظر دادن اشتراک گذاری دانلود PDF باشگاه خبرنگاران جوان فرهنگی هنری رادیو تلویزیون در گفتوگو با باشگاه خبرنگاران جوان مطرح شد؛ کمک ساترا و هوش مصنوعی برای رصد و مسدود کردن فعالیت مجرمانه برخی سایتها نظر دادن اشتراک گذاری دانلود PDF
مدیرکل فناوری و سامانههای نوین ساترا گفت: هوش مصنوعی فعالیت مجرمانه سایتها و پلتفرمها را تشخیص میدهد ولی این صنعت با خطا روبهروست.
علیرضا بهادری، مدیرکل فناوری و سامانههای نوین ساترا درباره کمک هوش مصنوعی پیرامون رصد کردن و مسدود کردن سایتهایی که در ساعات خاصی از شبانهروز فعالیت مجرمانه انجام میدهند، گفت: بله، هوش مصنوعی فعالیت مجرمانه سایتها و پلتفرمها را تشخیص میدهد. ولی این صنعت با خطا هم روبهروست. ما برای صیانت از حقوق کاربر و رسانه در مواردی که محتوا سالم است، ولی هوش مصنوعی به اشتباه ناسالم تشخیص داده، به مداخله نیروی انسانی نیاز داریم. همچنین مواردی هم بر عکس است. به همین دلیل نظارت نیروی انسانی بروی نتایج هوش مصنوعی ضروریست.
بهادری ادامه داد: ما از سال ۱۳۹۶ هوش مصنوعی خودمان را با دادگان فارسی و فرهنگ ایرانی بومی کردیم و بر اساس آییننامه محتوایی مصوب کشورمان ماشینها را آموزش دادیم، تا موارد مطلوب و نامطلوب را بر اساس هنجارهای کشورمان تشخیص بدهند. بدین ترتیب، از طریق سامانه اقدام فوری یا ساف به مدیران و صاحبان رسانه هشدار میدهیم که محتوای متخلفانه یا مجرمانه را از سایتشان بردارند. اگر رسانه بر اساس مهلت زمانی تعیین شده اقدام نکرد، مسیر حقوقی تخلفش طی میشود. البته ساترا ضابط قضایی نیست و تخلف رخ داده را با تشخیص معاونت حقوقی به ضابطان قضایی ارجاع میدهد.
مدیرکل فناوری و سامانههای نوین ساترا با بیان اینکه این سازمان از سالها قبل موضوع پالایش محتوا بر اساس ماشینهای هوش مصنوعی پیشرفته را که بومی شده با فرهنگ خودمان و مقررات محتوایی هستند، انجام داده است، افزود: ساترا در سال ۱۴۰۰ مقررات استفاده از هوش مصنوعی در رسانهها تدوین و ابلاغ کرد و خود نیز سامانههایی را مبتنی بر هوش مصنوعی مولد تدوین و اجرا کرده است. برخی از این سامانه در حال بهرهبرداری و بعضی در حال طراحی و پیادهسازی هستند. سامانه همسانیاب فیلمنامه سامانهای است که به تهیهکنندگان و تولیدکنندگان محتوا کمک میکند تا از تولید محتواهای تکراری که به شکست در گیشه منجر میشود، یا بخاطر مشابهتشان منجر به ضرر کاربر میشود، جلوگیری شود. همه دعوای حقوقی سریالهای «آهوی من مارال» و «جیران» را به خاطر داریم. این دو سریال چالش شباهت فیلمنامه و داستان داشتند.
به گفته وی، ما با کمک هوش مصنوعی سعی میکنیم شباهت سناریو یا فیلمنامه را به تهیهکنندگان هشدار بدهیم، تا از سرمایهشان صیانت شود. ما با این سامانه به کمک تهیهکننده و سرمایهگذار میآییم، تا با اطمینان بیشتری شروع به تولید کنند. چون بیشتر مواقع حضور ذهن افراد بابت ریز داستانها و بخشهای مختلف داستان کفایت نمیکند، تا موارد مشابه داستان را تذکر بدهند. این سامانه به صورت سیستم توصیهگر عمل میکند. البته ما از نظر قانونی الزامی نداریم، اما چالشهای آن گریبانگیر زیست بوم میشود. پذیرفتن پیشنهادات این سامانه به عهده افراد است، تا موضوعاتی از قبیل سرقت ادبی و هدررفت سرمایه صورت نگیرد.
بهادری درباره امکانات دیگری که سامانه همسانیاب فیلمنامه ارائه میدهد، توضیح داد: این سامانه گونه یا ژانرهای فیلم و سریال را به صورت دقیق تشخیص میدهد. مثلاً یک نفر ممکن است اثر پلیسی یا جنایی کار کرده باشد، ولی بدون اینکه مطلع باشد ته مایههای طنز هم در کارش دیده میشود. در اینجا هوش مصنوعی تذکر میدهد که نهتنها موضوع اثر جنایی است، بلکه ته مایههای طنز هم دیده میشود. اکنون نویسنده آگاهانه نسبت به تقویت یا حذف گونه طنز اقدام مینماید.
مدیرکل فناوری و سامانههای نوین ساترا در پاسخ به این سوال که یکسری فیلم و سریالها در فضای مجازی مطرح میشد، که انگار همسو با فضای اعتراضی کشور ساخته شده است. هوش مصنوعی میتواند تشخیص دهد که چند درصد از این گمانهزنیها غلط یا صحیح است؟ تصریح کرد: تا حدودی بله، امکان تحلیل شخصیت هم در سناریوها داریم. ما میتوانیم در فیلمنامهها شخصیتها و میزان ارتباطاتشان را آمار بگیریم و بر اساس آن به تهیهکننده، نویسنده و سرمایهگذار اثر کمک کنیم. چون سیستمهای هوش مصنوعی مشابه سیستمهای خبره طراحی میشوند و میتوانند همانند افراد حرفهای در شورای تولید و انتشار ساترا عمل کنند.
وی در پاسخ به این سوال که از این پس میتوان با جرات اعلام کرد که با کمک هوش مصنوعی هیچ محتوایی از شبکه نمایش خانگی بدون نظارت پیشینی امکان پخش ندارد؟ تصریح کرد: ما سامانه سپام یا پایش و ارزیابی مردمی را داریم. هوش مصنوعی در قدم اول به ما کمک میکند مواردی که خطرپذیری بیشتری دارند، یا احتمال فراگیری آن محتوا بالاست، در اولویت برای پالایش توسط نیروی انسانی قرار دهیم. البته ما هوش مصنوعی را فعلا به عنوان یک سیستم خبره نمیپذیریم، بلکه به عنوان یک سیستم تصمیمیار میپذیریم. یعنی به تنهایی به نتیجه هوش مصنوعی اکتفا نمیکنیم و نیروی انسانی بر عملکرد هوش مصنوعی نظارت خواهد کرد.
بهادری ادامه داد: امروز آنقدر تعداد کاربران و تعداد محتواهای تولید شده در رسانههای کاربر محور زیاد است، که با صرف نیروی انسانی نمیتوان همه محتواها را بررسی کرد. اگر بخواهیم نظارت را به طور کامل پسینی کنیم، خطرپذیری بابت انتشار محتوای نامناسب بالا خواهد بود و زیست بوم برای کاربران پرمخاطره خواهد شد. اگر بخواهیم نظارت را پیشینی کنیم، چالاکی و سرزندگی رسانه را از بین بردهایم. در نتیجه، در یک تعادل نسبی میتوان با کمک هوش مصنوعی نظارت اولیه بر روی محتواها را سریع پیش برد و بازبینی موارد پر خطر را به دوش نیروی انسانی بندازیم.
مدیرکل فناوری و سامانههای نوین ساترا با بیان اینکه ساترا در هشت محور تنظیمگری میکند، که یکی از این محورها تنظیمگری فناورانه است، گفت: بر اساس حکمرانی هوش مصنوعی و ترویج این صنعت در رسانههای کاربر محور و ناشر محور، لازم است مداخلات لازم برای حمایت از رسانهها و کاربران برای استفاده از هوش مصنوعی صورت بگیرد، که از بیشینه مزایای آن بتوانند استفاده کنند. در عین حال، چالشها و معایب این صنعت دامنگیرشان نشود.
خبرنگار: نفیسه خلیلی
