۶ تیر ۱۴۰۲، ۷:۰۹
کد خبر: 85151566
T T
۰ نفر

برچسب‌ها

نحوه تشخیص محتوای ساخته هوش‌مصنوعی

۶ تیر ۱۴۰۲، ۷:۰۹
کد خبر: 85151566
نحوه تشخیص محتوای ساخته هوش‌مصنوعی

یکی از معضلات به وجود آمده پس از عرضه چت‌جی‌پی‌تی و رشد بی وقفه هوش مصنوعی که تمامی صنایع و حرفه‌ها را درگیر کرده، ایجاد محتوای کپی است.

گروه ایرنا زندگی - این روزها اگر گشتی در اینترنت بزنید متوجه می‌شوید که هزاران سایت مبتنی بر هوش مصنوعی به وجود آمده که به شما خدماتی بسته به نیازتان ارائه می‌دهند که بسیاری از آنها عالی هستند. فرقی هم نمی‌کند شما نیاز به یک مقاله دارید و یا می‌خواهید یک لوگو برای کسب‌وکارتان داشته باشید، سایت‌های زیادی در این زمینه دست یاری را به سویتان دراز می‌کنند.

اما چنین خدماتی برخی اوقات مشکلاتی ایجاد می‌کند. مثلا محتوای تولید شده توسط این ابزارها در دانشگاه‌ها حساسیتی برای اساتید ایجاد کرده و یا در جوامع خبری مثلا عکسی ناشایست از یک فرد مهم دولتی سبب ایجاد گمانه‌زنی‌هایی می‌شود.

این روزها اگر گشتی در اینترنت بزنید متوجه می‌شوید که هزاران سایت مبتنی بر هوش مصنوعی به وجود آمده که به شما خدماتی بسته به نیازتان ارائه می‌دهند که بسیاری از آنها عالی هستند. فرقی هم نمی‌کند شما نیاز به یک مقاله دارید و یا می‌خواهید یک لوگو برای کسب‌وکارتان داشته باشید، سایت‌های زیادی در این زمینه دست یاری را به سویتان دراز می‌کنند.

اما چنین خدماتی برخی اوقات مشکلاتی ایجاد می‌کند. مثلا محتوای تولید شده توسط این ابزارها در دانشگاه‌ها حساسیتی برای اساتید ایجاد کرده و یا در جوامع خبری مثلا عکسی ناشایست از یک فرد مهم دولتی سبب ایجاد گمانه‌زنی‌هایی می‌شود.

نحوه تشخیص محتوای ساخته هوش‌مصنوعی

آشکارسازهای هوش مصنوعی چگونه کار می‌کنند؟

در این ابزارها الگوریتم‌های مشابه NLP یا همان برنامه‌نویسی عصبی زبانی استفاده می‌شود. به بیان ساده، به آنها آموزش داده می‌شود که مضامین تکرار شونده و کلمات و عبارات استفاده شده در هوش مصنوعی را تشخیص دهند. سپس اطلاعات توسط این ابزارها بسته به احتمال اینکه گوگل آن را پیدا کند رتبه بندی می‌شود.

نحوه تشخیص محتوای ساخته هوش‌مصنوعی

GPTZero

این سایت با شعار «انسان‌ها لایق حقیقت هستند» متن مورد نظر شما را تجزیه و تحلیل می‌کند و می‌گوید که ساخته هوش مصنوعی است یا به قلم انسانی نوشته شده است. عملکرد این ابزار خوب است و به اندازه زیادی می‎تواند حتی متن ترکیبی نوشته شده توسط انسان و هوش مصنوعی را تشخیص دهد، البته اشتباهاتی نیز دارد.

OpenAI AI Text Classifier

OpenAI این ابزار را برای مقابله با چت‌جی‌پی‌تی ارائه داده که می‌تواند با کلماتی مثل «بسیار بعید» (very unlikely)، «محتمل» (likely)، «احتمالاً تولید شده توسط هوش مصنوعی» (ikely to be AI-generated) و «نامشخص» (unclear) به شما در تشخیص متن کمک کند.

Content at Scale AI Detector

این ابزار نیز با  نشان دادن درصد به یاری شما می‌آید. هرچه درصد بیشتر باشد، احتمال اینکه متن توسط انسان نوشته شده باشد بیشتر است.

Hive Moderation Text Detection

این ابزار علاوه بر تشخیص متن تولید شده توسط هوش مصنوعی، تصاویر ساخته شده توسط تصویرسازهای هوش مصنوعی مثل DALL-E 2 یا Midjourney را شناسایی می‌کند.

همچنین ابزارهایی مثل Paraphrasingtool.ai، Writefull GPT، Originality.AI و Copyleaks در زمینه تشخیص محتوای ساخته شده توسط هوش مصنوعی به شما کمک می‌کنند.

نحوه تشخیص محتوای ساخته هوش‌مصنوعی

تشخیص عکس قلابی

در خصوص تشخیص تصاویر بهتر است قبل از باور هر عکسی به چند نکته توجه کنید. اول به تناقضات و تناسب بدن افراد توجه کنید. در عکس‌های ساخته شده توسط Midjourney عموما تناسب بدن رعایت نمی‌شود و بیشتر شاهد فانتزی بودن و ظواهر مصنوعی هستیم. در مرحله بعدی حتما به پس‌زمینه دقت کنید. در این عکس‌‎ها در پس زمینه از اجسام نامتناسب و دفرمه و بعضا بی‌ربط استفاده شده که شک برانگیزند. همچنین شما می‌توانید با سرچ در گوگل منبع اصلی عکس را پیدا کنید. اگر نتیجه‌ای نگرفتید، اطمینان پیدا کنید که با یک عکس قلابی و ساخته هوش مصنوعی روبرو شده‌اید.

البته باید بگوییم این ابزارها به صورت صددرصدی درست نیستند و احتمال خطا در آنها وجود دارد. این خطا در مواردی که متن موجود ترکیبی از متن نوشته شده توسط انسان و چت‌جی‌پی‌تی است، بسیار بیشتر دیده شده و البته در مواردی به طور کامل پاسخ را برعکس داده است.

نگرانی بعدی هم این است که چنین ابزارهایی با کمی جابجایی کلمات به راحتی فریب می‌خورند و به شما پاسخ غلط می‌دهند.

به گزارش گروه تبیان، در آخر توصیه ما این است که قبل از مطمئن نشدن از صلاحیت و درست بودن متن یا عکسی که در شبکه‌های اجتماعی می‌بینید، آن را بازنشر نکنید.

اخبار مرتبط

نظر شما

شما در حال پاسخ به نظر «» هستید.