admin پیراهن ضد هوش مصنوعی؛ لباس عجیب آلمانی برای فریب دوربینهای نظارتی
یک طراح آلمانی با ساخت یک پیراهن هاوایی عجیب و پر از رنگها و شکلهای نامتعارف، تلاش کرده یکی از نقاط ضعف سامانههای تشخیص تصویر مبتنی بر هوش مصنوعی را به نمایش بگذارد. این لباس که Digital Camouflage نام دارد، طوری طراحی شده که برخی سامانههای تشخیص انسان را دچار مشکل کند.
پیراهن ضد هوش مصنوعی یا Digital Camouflage چیست؟
این پیراهن توسط سایمون وکرت، هنرمند و طراح آلمانی، ساخته شده است. برخلاف لباسهای معمولی که طرح و رنگشان برای زیبایی انتخاب میشود، ظاهر عجیب این پیراهن بخشی از عملکرد آن است.
روی لباس ترکیبی شلوغ از رنگهای صورتی، نارنجی، سبز و شکلهای هندسی دیده میشود. در نگاه انسان، این طرح بیشتر شبیه یک پارچه بسیار شلوغ و حتی آزاردهنده است؛ اما هدف طراح این بوده که همین آشفتگی بصری، الگوریتمهای تشخیص تصویر را با مشکل مواجه کند.
وکرت این پروژه را در واکنش به گسترش سامانههای نظارت تصویری مبتنی بر هوش مصنوعی، از جمله فناوریهای مورد استفاده برای تحلیل تصاویر در فضاهای عمومی برلین، توسعه داده است. او این لباس را بیشتر از آنکه یک ابزار قطعی برای فرار از نظارت بداند، بهعنوان یک پروژه هنری و فناورانه برای نشان دادن محدودیتهای بینایی ماشین معرفی میکند.
پیراهن ضد هوش مصنوعی چگونه کار میکند؟
برای درک ایده این لباس باید بدانیم که سامانههای تشخیص تصویر دقیقاً مانند چشم انسان به تصاویر نگاه نمیکنند. یک مدل بینایی ماشین با استفاده از دادههای آموزشی، الگوهای آماری خاصی را برای شناسایی اشیا و انسانها یاد میگیرد.
به بیان ساده، الگوریتم میتواند از ترکیب ویژگیهایی مانند لبهها، رنگها، بافتها، شکل بدن و نسبت بخشهای مختلف تصویر برای تشخیص یک انسان استفاده کند. وکرت تلاش کرده با ایجاد یک الگوی بصری غیرمعمول، همین نشانهها را مختل کند.
طرح لباس به شکلی طراحی شده که خطوط و فرم کلی بدن کمتر یکپارچه به نظر برسند. در نتیجه، الگوریتم ممکن است در برخی شرایط نتواند بخشهای مختلف بدن را بهعنوان یک «شخص» واحد تشخیص دهد.
| ویژگی | هدف | نتیجه موردنظر |
|---|---|---|
| رنگهای بسیار متنوع | ایجاد آشفتگی بصری | اختلال در تحلیل تصویر |
| اشکال نامتعارف | برهم زدن خطوط بدن | سختتر شدن تشخیص پیکر انسان |
| الگوی بهینهسازیشده | هدف قرار دادن ویژگیهای بصری مدل | کاهش احتمال شناسایی در برخی مدلها |
نقش هوش مصنوعی در طراحی این لباس
نکته جالب درباره این پروژه این است که وکرت برای مقابله با هوش مصنوعی، از خود هوش مصنوعی هم کمک گرفته است.
الگوی لباس با روشی موسوم به حمله خصمانه یا Adversarial Attack توسعه داده شده است. در این روش، تغییرات حسابشدهای در داده ورودی ایجاد میشود تا یک مدل یادگیری ماشین در تفسیر تصویر دچار خطا شود.
وکرت برای پیدا کردن الگوی مناسب، طرحهای مختلف را بارها آزمایش کرده و عملکرد آنها را در برابر یک سامانه تشخیص شیء بررسی کرده است. طبق توضیحات پروژه، آزمایشها با سامانه متنباز تشخیص تصویر YOLO انجام شدهاند.
در واقع، طراح نمیتوانسته صرفاً با نگاه کردن به لباس تشخیص دهد که کدام الگو برای ماشین گیجکنندهتر است. بنابراین خود سامانه هوش مصنوعی به نوعی به ابزار آزمایش و ارزیابی طرح تبدیل شده است.
آیا این لباس واقعاً انسان را از دوربینهای هوش مصنوعی مخفی میکند؟
نه بهصورت مطلق. این نکته اهمیت زیادی دارد. عبارتهایی مانند «لباسی که شما را از دوربینها نامرئی میکند» برای جلب توجه جذاب هستند، اما از نظر فنی بیش از حد کلیاند.
خود وکرت نیز اعلام کرده که این لباس برای شکست دادن یک سامانه نظارتی خاص طراحی نشده و نمیتوان ادعا کرد که در برابر تمام دوربینها و مدلهای هوش مصنوعی عملکرد یکسانی دارد.
عملکرد چنین الگوهایی به مدل تشخیص تصویر، زاویه دوربین، فاصله، نور محیط، کیفیت تصویر، حرکت فرد و حتی تغییرات نسخههای نرمافزاری بستگی دارد. ممکن است الگویی در برابر یک مدل خاص مؤثر باشد اما مدل دیگری بتواند فرد را بهراحتی تشخیص دهد.
بنابراین بهتر است این لباس را یک آزمایش هنری و فناورانه درباره آسیبپذیری بینایی ماشین بدانیم، نه یک لباس جادویی برای فرار قطعی از سیستمهای نظارتی.
سایمون وکرت کیست؟
سایمون وکرت یک هنرمند و طراح آلمانی است که در پروژههایش معمولاً رابطه میان فناوری، داده، الگوریتمها و زندگی روزمره را بررسی میکند.
او پیش از پروژه Digital Camouflage نیز با یک آزمایش مشهور درباره نقشههای دیجیتال خبرساز شده بود. وکرت در سال ۲۰۲۰ یک گاری حاوی ۹۹ تلفن هوشمند را در خیابانهای برلین حرکت داد تا سامانه Google Maps تصور کند در آن منطقه ترافیک سنگینی وجود دارد.
این پروژه نشان میداد دادههایی که سرویسهای دیجیتال برای توصیف دنیای واقعی استفاده میکنند، لزوماً خود واقعیت نیستند و میتوانند تحت تأثیر ورودیهای غیرمعمول قرار بگیرند.
پروژه جدید او نیز ایدهای مشابه دارد: اگر سامانههای هوش مصنوعی از الگوهای بصری برای تفسیر جهان استفاده میکنند، آیا میتوان همین الگوها را به نقطه ضعف آنها تبدیل کرد؟
چرا این لباس عجیب مهم است؟
شاید در نگاه اول، یک پیراهن هاوایی بسیار زشت موضوع چندان جدی به نظر نرسد؛ اما پشت این طراحی یک بحث مهم درباره آینده نظارت تصویری وجود دارد.
دوربینهای مدرن دیگر فقط تصاویر را ضبط نمیکنند. در بسیاری از سامانههای جدید، الگوریتمهای بینایی ماشین میتوانند افراد، اشیا یا رفتارهای مختلف را از تصاویر استخراج و دستهبندی کنند.
Digital Camouflage تلاش میکند توجه را به این سؤال جلب کند که وقتی چنین فناوریهایی وارد فضاهای عمومی میشوند، چقدر میتوان به دقت و قابلیت اطمینان آنها اعتماد کرد.
از طرف دیگر، این پروژه نشان میدهد رقابت میان سیستمهای تشخیص و روشهای مقابله با آنها احتمالاً ادامه خواهد داشت. هرچه الگوریتمها پیشرفتهتر شوند، روشهای جدیدی هم برای آزمایش، ارزیابی و پیدا کردن نقاط ضعف آنها شکل میگیرد.
پیراهن Digital Camouflage سایمون وکرت قرار نیست یک لباس جادویی برای نامرئی شدن در برابر تمام دوربینها باشد. این پروژه بیشتر یک آزمایش هوشمندانه است که نشان میدهد الگوریتمهای تشخیص تصویر چگونه به الگوهای آماری وابستهاند و چگونه میتوان با طراحی خاص، محدودیتهای آنها را آشکار کرد.
برای مشاهده توضیحات کامل پروژه و تصاویر آن میتوانید به صفحه رسمی Digital Camouflage در وبسایت سایمون وکرت مراجعه کنید.
