دیجیاتو
از اینکه ما را در توسعه بهتر و هدفمند‌تر دیجیاتو همراهی می‌کنید
از شما سپاسگزاریم.
پژوهشگران دانشگاه MIT تکنیک جدیدی موسوم به PhotoGuard را توسعه داده‌اند که اجازه نمی‌دهد هوش مصنوعی عکس‌های شما را دستکاری کند.
جهت بهره‌مندی و دسترسی به امکانات ویژه و بخش‌های مختلف در دیجیاتو عضو ویژه دیجیاتو شوید.
مدل‌های هوش مصنوعی زیادی وجود دارند که می‌توانند تصاویر را دستکاری کنند. ازاین‌رو، محققان دانشگاه MIT تکنیک جدیدی موسوم به PhotoGuard را توسعه داده‌اند که می‌تواند از تغییر تصاویر توسط این فناوری جلوگیری کند. این تکنیک به نحوی عکس‌ها را برای هوش مصنوعی مخدوش می‌کند که توسط چشم انسان قابل مشاهده نیست.
به گزارش انگجت، محققان آزمایشگاه علوم کامپیوتر و هوش مصنوعی مؤسسه فناوری ماساچوست (MIT) سیستمی به نام PhotoGuard ساخته‌اند که بخشی از پیکسل‌های درون تصویر را عوض می‌کند تا هوش مصنوعی نتواند محتوای عکس را متوجه شود. این «اختلال‌ها» با چشم انسان دیده نمی‌شوند، اما کامپیوتر می‌تواند آن‌ها را تشخیص دهد.
سازوکار اول موجب افزودن عناصری به تصویر می‌شود که درک مدل هوش مصنوعی از اطلاعات مخفی موجود در عکس را هدف قرار می‌گیرد. این اطلاعات پیچیده ریاضی همان داده‌هایی هستند که موقعیت و رنگ دقیق هر پیکسل را در تصویر مشخص می‌کنند. با این تغییرات، هوش مصنوعی عملاً نمی‌تواند متوجه شود که دارد به چه چیزی نگاه می‌کند.
محققان سازوکار دیگری را هم معرفی کرده‌اند که یک تصویر را در چشم هوش مصنوعی به یک تصویر دیگر تبدیل می‌کند. در این روش تصویر اصلی به‌نوعی زیر یک تصویر جعلی قرار می‌گیرد و تمام دستکاری‌های هوش مصنوعی، روی تصویر جعلی انجام می‌شود. بنابراین تصویر اصلی در برابر تغییر مصون خواهد ماند.
پژوهشگران می‌گویند این تدابیر ایمنی شکست‌ناپذیر نیستند و هکرها می‌توانند آن‌ها را دور بزنند، اما حداقل تا حدی به کاربران کمک خواهند کرد تا از عکس‌های خود محافظت کنند. «هادی سلمان»، دانشجوی مقطع دکتری دانشگاه MIT و محقق ارشد این پروژه می‌گوید:
«همکاری توسعه‌دهندگان مدل‌های هوش مصنوعی، پلتفرم‌های شبکه‌های اجتماعی و سیاست‌گذاران می‌تواند به ایجاد سازوکاری مستحکم برای مقابله با دستکاری غیرمجاز تصاویر کمک کند. تلاش برای حل این مسئله امروز اهمیت بسیار زیادی پیدا کرده است. هرچند که من از کمک به توسعه این راهکار خوشحالم، اما همچنان کارهای زیادی باید برای ایجاد تدابیر حفاظتی مناسب صورت بگیرد. شرکت‌هایی که این مدل‌های هوش مصنوعی را توسعه می‌دهند، باید روی ساخت سازوکارهای ایمن‌سازی محتواها در برابر تهدیدات ناشی از این ابزارها سرمایه‌گذاری کنند.»
نتیجه تلاش‌های صورت‌گرفته در این پروژه به‌صورت مقاله‌ای در وب‌سایت arXiv منتشر شده است.
برای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید.
شبکه‌های اجتماعی دیجیاتو سریع‌ترین روش دسترسی به اخبار فناوری، علم و خودرو است. اگر می‌خواهید به‌روز باشید، شبکه‌های اجتماعی دیجیاتو را دنبال کنید.
تمامی حقوق برای وبسایت دیجیاتو محفوظ است | دیجیاتو توسط سرورهای قدرتمند پارس پک پشتیبانی می‌شود

source
سئو سایت