#
मोठ्या प्रमाणात क्रॉप केलेल्या AI प्रतिमा ओळखण्यात टूल कमी पडू शकते
तज्ज्ञांकडून वॉटरमार्क-आधारित तंत्रज्ञानाच्या मर्यादांवर प्रकाश
मेटाने आपल्या नव्या AI इमेज डिटेक्शन टूलबाबत महत्त्वाची माहिती दिली आहे. कंपनीच्या म्हणण्यानुसार, मोठ्या प्रमाणात क्रॉप केलेल्या काही AI-निर्मित प्रतिमा हे टूल ओळखण्यात अपयशी ठरू शकते. प्रतिमांमध्ये वापरण्यात आलेल्या अदृश्य वॉटरमार्कमुळे सामान्य संपादनानंतरही ओळख शक्य होते, मात्र मोठ्या प्रमाणात क्रॉपिंग झाल्यास हा सिग्नल नष्ट होण्याची शक्यता असते. या पार्श्वभूमीवर तज्ज्ञांनीही वॉटरमार्क-आधारित तंत्रज्ञानाच्या मर्यादा स्पष्ट केल्या आहेत. AI-निर्मित सामग्री ओळखण्यासाठी अधिक सक्षम तंत्रज्ञान विकसित करण्याची गरजही व्यक्त केली जात आहे.
विशेष प्रतिनिधी : मेटाने आपल्या नव्या AI इमेज डिटेक्शन टूलबाबत महत्त्वाचा खुलासा केला आहे. कंपनीने मान्य केले आहे की मोठ्या प्रमाणात क्रॉप केलेल्या काही AI-निर्मित प्रतिमा हे टूल अचूकपणे ओळखू शकणार नाही.
प्रहार डिजिटलच्या वृत्तानुसार, मेटाच्या म्युझ इमेज (Muse Image) मॉडेलद्वारे तयार करण्यात आलेल्या प्रतिमांमध्ये Content Seal नावाचा अदृश्य वॉटरमार्क समाविष्ट असतो. या वॉटरमार्कच्या मदतीने संबंधित प्रतिमा AI द्वारे तयार झाली आहे की नाही, हे ओळखण्याचा प्रयत्न केला जातो. मात्र, प्रतिमा मोठ्या प्रमाणात क्रॉप केल्यास हा सिग्नल नष्ट होऊ शकतो.
विश्लेषणादरम्यान मूळ AI-निर्मित प्रतिमा टूलने यशस्वीरित्या ओळखल्या. मात्र, त्याच प्रतिमा मूळ आकाराच्या सुमारे एक-तृतीयांश ते अर्ध्यापर्यंत क्रॉप केल्यानंतर सुमारे 55 टक्के प्रतिमा ओळखण्यात टूल अपयशी ठरल्याचे समोर आले. मेटाने स्पष्ट केले की हे टूल अद्याप पूर्वावलोकन (Preview) टप्प्यात असून त्यात सातत्याने सुधारणा करण्यात येत आहेत.
AI-निर्मित सामग्री, डीपफेक आणि फेरफार केलेल्या प्रतिमांबाबत वाढत्या चिंतेच्या पार्श्वभूमीवर विविध तंत्रज्ञान कंपन्या अशा प्रकारची शोध प्रणाली विकसित करत आहेत. Google आणि OpenAI यांनीदेखील त्यांच्या AI इमेज डिटेक्शन प्रणालींना प्रतिमांमधील बदलांमुळे मर्यादा येऊ शकतात, असे यापूर्वी मान्य केले आहे.
या वर्षाच्या सुरुवातीला मेटाच्या निरीक्षण मंडळाने AI-निर्मित दिशाभूल करणाऱ्या सामग्रीविरोधात अधिक प्रभावी उपाययोजना करण्याचे आवाहन केले होते. तसेच अधिक सक्षम AI शोध तंत्रज्ञान विकसित करण्यासाठी गुंतवणूक वाढवण्याचीही शिफारस करण्यात आली होती.
तज्ज्ञांच्या मते, वॉटरमार्क-आधारित तंत्रज्ञान उपयुक्त असले तरी प्रतिमा क्रॉप करणे, आकार बदलणे, जास्त कॉम्प्रेशन किंवा संपादन यामुळे त्याची परिणामकारकता कमी होऊ शकते. तरीही AI-निर्मित सामग्री ओळखण्यासाठी हे तंत्रज्ञान महत्त्वाचे पाऊल असल्याचे संशोधकांचे मत आहे.
