The AI slop situation is a mess

The Infographics Show · 2026-10-17

채널: The Infographics Show | 링크: https://www.youtube.com/watch?v=NrL10B3ZXDg | 길이: 8:08

요약

The AI slop situation is a mess: 요약

🎯 TL;DR

화자는 AI가 만든 저품질 콘텐츠가 인터넷을 뒤덮고 있고, 대형 플랫폼은 감지 기술이 있는데도 수익 때문에 AI 콘텐츠를 구분해 표시하지 않는다고 주장한다. 그래서 채널은 크리에이터 중심 캠페인 "Team Human"에 참여했다고 밝히고, 국제적 규제와 플랫폼 라벨링 의무화를 위한 서명 운동을 설명한다.

📌 핵심 논지

  • AI 콘텐츠의 급증으로 인간 창작자의 노력이 평가절하되고 있다.
  • 문제는 AI 기술 자체가 아니라, 플랫폼이 무엇이 진짜이고 무엇이 자동 생성인지 알리지 않는 것이다.
  • 플랫폼은 능력이 없어서가 아니라 이익 때문에 구분하지 않으며, 이를 바로잡으려면 대중의 압력과 법적 규제가 필요하다고 본다.

인터넷이 무너지고 있다는 진단

  • 화자에 따르면 피드를 보면 누구나 느낄 수 있듯이, 콘텐츠가 점점 의미 없는 코드의 산물이 되고 있다. 작가도, 편집자도, 성우도, 영혼도 없다는 것이다.
  • 기업들은 직원을 AI로 대체하고, 고객 서비스 에이전트로 쓰고, 검색 엔진을 합성 데이터로 채우고 있다고 말한다.
  • 일반 사용자들도 SNS, 웹사이트 제작, 콘텐츠 대량 생산에 AI를 쓰고 있다.
  • 초기에는 손가락이 여섯 개인 사람이나 어색한 기계음 때문에 AI 콘텐츠를 쉽게 알아봤다. 지금은 구분이 훨씬 어려워졌고, 최신 모델은 음성을 밀리초 단위로 모사하며 사실적인 이미지와 딥페이크 영상을 만든다고 설명한다.

창작 노동의 가치 훼손

  • 인간 창작자는 영상, 글, 그림을 만들 때 며칠에서 몇 달까지 시간을 들이고, 수정과 다듬기를 거쳐 공개한다. 완벽하지 않을 수 있어도 진짜 노력과 표현의 결과물이라는 것이다.
  • 반면 AI 소프트웨어와 서버 팜은 수백 개의 콘텐츠를 몇 분 만에 쏟아낼 수 있다. 이런 콘텐츠를 만드는 사람들은 품질이 아니라 양만 신경 쓰고, 일부라도 조회, 반응, 돈, 영향력을 얻으면 된다고 계산한다고 주장한다.
  • 그 결과 진짜 창작자는 군중 속에 묻히고, 양과 반복을 우선 보상하도록 설계된 알고리즘 앞에서 승산 없는 싸움을 하고 있다고 말한다.

채널의 입장: AI 반대가 아니라 책임 있는 사용

  • 채널은 AI를 도구로 쓰지 대체재로 쓰지 않는다고 밝힌다. 썸네일 텍스트 수정, 감독용 워크시트 자동 생성, 영상을 4K로 업스케일하는 데 쓴다.
  • 조사, 집필, 애니메이션, 성우 연기는 재능 있는 인간 팀이 한다고 말한다. 화자는 자신이 사람이며 댓글도 읽는다고 강조한다.
  • 책임 있게 쓰이면 AI가 세상에 많은 선을 행할 수 있다고 본다.

플랫폼 비판

  • 화자는 대형 플랫폼이 AI 콘텐츠를 탐지하고 분류할 기술을 이미 갖고 있으며, 봇과 AI 서버 팜이 만든 파일도 알고 있다고 주장한다. 엄격한 라벨링 체계를 시행할 돈, 자원, 영향력도 충분하다고 한다.
  • 하지만 플랫폼에는 옳고 그름이 아니라 이익이 중요하다는 것이다. 조회, 클릭, 반응이 나오면 광고 수익이 늘기 때문에 사람이 만든 영상이든 기계가 만든 영상이든 상관하지 않는다고 말한다.
  • 화자는 이들이 인간의 열정과 딥페이크 사기, 자동 생성 스팸을 의도적으로 같게 취급한다고 주장한다. 또 경영진과 주주가 이익을 챙기는 한 바뀌지 않을 것이며, 이용자 안전, 윤리, 인간 창작의 존속은 우선순위가 낮다고 본다.

Team Human 캠페인

  • 화자는 채널이 "Team Human"에 합류했다고 말한다. 이는 AI에 대한 인간의 통제를 지키기 위해 크리에이터들이 만든 캠페인이다.
  • 상업적 제휴나 광고 계약이 아니라고 밝히며, 참여 채널과 크리에이터의 합산 구독자가 3억 5천만 명을 넘는다고 한다.
  • 화자는 빅테크와 각국 정부가 더 똑똑한 AI를 경쟁자보다 먼저 배포하려는 고위험 군비 경쟁을 벌이고 있으며, 그 과정에서 발생하는 사회적 붕괴에 눈이 멀었다고 비판한다.
  • 좋은 소식으로는 세계가 실효성 있는 국제 규제에 가까워지고 있다고 말한다. 주요 강대국이 더 엄격한 통제를 할 의지를 보이고 있고, 많은 AI 안전 전문가가 이런 규제를 요구해 왔다고 전한다.
  • 다만 이를 실현하려면 대중이 정책 결정자에게 같은 것을 원한다는 점을 보여줘야 한다고 주장한다.

핵심 수치

  • 음성 모사 정확도: 99.99%
  • AI의 콘텐츠 생산량: 인간의 약 500배
  • Team Human 참여 채널의 합산 구독자: 3억 5천만 명 이상
  • 서명 목표: 11월 1일까지 20만 명
  • 화자에 따르면 Center for AI Safety는 이 정도면 공익 단체와 AI 안전 옹호자들이 필요한 것을 얻는 데 충분하다고 말한다.

결정적 발언

  • 플랫폼은 "죽어가는 창의성으로 적극적으로 돈을 벌고 있다"고 화자는 말한다.
  • 지금 긴급 브레이크를 밟지 않으면 인터넷이 AI가 만든 쓰레기로 넘치는 디지털 쓰레기장이 될 것이라고 경고한다.
  • AI 콘텐츠가 들어설 자리는 있지만, 인터넷을 처음부터 훌륭하게 만든 인간의 자리도 있어야 한다고 말한다.

반론에 대한 선제 대응

화자는 "기술 반대론자"라는 비판을 예상한 듯, 자신들은 AI를 쓰고 있으며 AI 개념 자체에 반대하지 않는다고 거듭 밝힌다. 쟁점은 사용 방식과 플랫폼의 투명성이라는 입장이다.

핵심 용어

  • AI slop: 품질 없이 대량으로 자동 생성되는 AI 콘텐츠
  • 서버 팜: 콘텐츠를 대량 생산하는 AI 서버 설비
  • 딥페이크: AI로 만든 정교한 가짜 영상·음성
  • Team Human: 인간의 AI 통제를 지키기 위한 크리에이터 캠페인

자막 원문 (참고)

Kind: captions Language: ar الإنترنت ينهار. تصفح خلاصتك وستلاحظ ذلك بنفسك. كل جزء من المحتوى الذي تستهلكه يتحول إلى مجرد سطور برمجية بلا معنى. لا فنان، لا كاتب يجلس على مكتب، لا محرر يعدل إطاراً، لا معلق صوتي يقرأ نصاً، ولا روح. نحن نغرق في فيضان لا ينتهي من محتوى الذكاء الاصطناعي الرديء. والأسوأ ليس وجود التكنولوجيا نفسها، بل رفض المنصات التي تستضيفها إخبارك بما هو حقيقي وما هو مؤتمت. المبدعون يختنقون بسبب مزارع الخوادم، والناس العاديون يتعرضون للسرقة بواسطة الخوارزميات. العالم الرقمي كما نعرفه يتعرض للهجوم، وحان الوقت لاتخاذ إجراء حيال ذلك. لقد غير الصعود السريع للذكاء الاصطناعي نظرتنا للعالم، وسيطر على كل شيء. ما بدأ كأداة تجريبية تحول إلى وسيلة لزيادة الكفاءة وتقليل التكاليف. تقوم الشركات باستبدال الموظفين بنشاط بالذكاء الاصطناعي، وتستخدمه كوكلاء لخدمة العملاء، بل وتغرق محركات البحث ببيانات اصطناعية. وليس الأمر مقتصرًا على الشركات فقط. المزيد والمزيد من الناس يستخدمونه عبر الإنترنت. يستخدمونه لوسائل التواصل الاجتماعي، وبناء المواقع الإلكترونية، والإنتاج الضخم للمحتوى. ومع تقدم التكنولوجيا، بدأ الجانب المظلم في الظهور. في بداياته، كان محتوى الذكاء الاصطناعي أضحوكة. نكتة البشر ذوي الأصابع الستة والأصوات الآلية جعلت من السهل حتى على غير التقنيين تمييز محتوى الذكاء الاصطناعي عن المحتوى الحقيقي. لكن تغيرت الأمور منذ ذلك الحين. اليوم، أصبح تمييز المحتوى الذي يولده الذكاء الاصطناعي عن المحتوى الحقيقي أصعب بكثير. يمكن لأحدث النماذج التوليدية محاكاة الأصوات البشرية بدقة 99.99%في أجزاء من الثانية. يمكنهم إنشاء صور واقعية للغاية ومقاطع فيديو مزيفة عميقة لا تشوبها شائبة بفعالية مذهلة. لكن الضحية الحقيقية لسباق الذهب هذا هي الإبداع. محتوى الذكاء الاصطناعي الرديء يقود بمفرده حملة التخفيض الكامل من قيمة الجهد البشري والإبداع والمهارة. يضع المبدعون البشر وقتاً وجهداً في أعمالهم. كل مقاطع الفيديو، والكتابة، والفن هي عملية مستمرة . إنها تتطلب شغفاً وصبراً أيضاً. حتى شيء يبدو بسيطاً مثل فيديو عن ألعاب الفيديو أو رسم بقلم الرصاص لشخصية أصلية يستنزف الكثير من صانعه. قد يقضون أياماً، أسابيع ، بل وحتى شهوراً في إعداده. يحتاجون إلى التعديل والضبط والتحسين قبل مشاركة ما صنعوه مع العالم. قد لا يكون مثالياً، لكنه بشري. المنتج النهائي لجهد حقيقي، تعبير حقيقي عن إبداع حقيقي. ثم، يأتي دور الذكاء الاصطناعي. يمكن لبرمجيات الذكاء الاصطناعي ومزارع الخوادم إنتاج مئات القطع من المحتوى في غضون دقائق معدودة. صور، ومنشورات مدونات ، ومقاطع فيديو تُلقى جميعها في الفضاء الرقمي بضغطة زر واحدة . لا يتم التفكير فيها، أو صياغتها، أو تنقيحها. بل يتم توليدها آلياً. والأشخاص الذين يقفون وراء هذا النوع من المحتوى لا يهتمون بالجودة. هم يهتمون بالكمية فقط. إنهم يعلمون أنهم إذا أغرقوا خلاصتك بالكثير من المحتوى الرديء، فإن بعضه سيترك أثراً. وبعضه سيحظى بالمشاهدة. وبعضه سيحظى بالتفاعل. وبعضه سيجلب لهم المال ، والانتباه، والنفوذ. في هذه الأثناء، يضيع المبدعون البشريون الحقيقيون تماماً وسط الحشود. تغرق إبداعاتهم كلياً في مستنقعات المحتوى الرديء. إنهم يخوضون معركة خاسرة ضد الخوارزميات. حتى أكثر المبدعين شغفاً وموهبة لا يمكنهم مجاراة آلات تنتج محتوى يفوق إنتاجهم بـ 500 ضعف. ليس عندما تكون خوارزميات وسائل التواصل الاجتماعي مصممة لمكافأة الحجم والتكرار قبل أي شيء آخر. فريق عمل "ذا إنفوجرافيكس شو" ليس ضد التكنولوجيا. بالطبع، نحن لسنا كذلك . ولسنا ضد الذكاء الاصطناعي أيضاً. كما قلنا سابقاً، نحن نستخدمه كأداة وليس كبديل. نستخدمه لتغيير النص على صورة مصغرة دون حاجة المنتج لخبرة في برنامج فوتوشوب. نستخدمه لتوليد أوراق عمل تلقائياً ليتمكن مخرجونا من تحليل السيناريو. نستخدمه لرفع دقة الفيديو من العادية إلى 4K، ليكون أكثر ملاءمة للعرض التلفزيوني. لكن هذا كل شيء. لدينا فريق بشري موهوب للغاية يعمل بجد للبحث، والكتابة، وتحريك كل مقطع فيديو. وبالطبع، بث الحياة فيه من خلال التعليق الصوتي. بجدية ، أنا إنسان. أنا أرى التعليقات. لذا، نحن لسنا ضد الذكاء الاصطناعي كمفهوم. إنها تقنية قوية لديها القدرة على فعل الكثير من الخير في هذا العالم طالما تم استخدامها بمسؤولية. مشكلتنا ليست في وجود الذكاء الاصطناعي بحد ذاته. مشكلتنا تتعلق بكيفية استخدامه، وخاصة فشل المنصات الكبرى في أن تكون صادقة وشفافة بشأن ذلك . هم ليسوا عاجزين. لديهم بالفعل التكنولوجيا التي يحتاجونها للكشف عن المحتوى الذي ينتجه الذكاء الاصطناعي وتصنيفه. إنهم يعرفون متى صُنعت الملفات بواسطة روبوتات آلية ومزارع خوادم الذكاء الاصطناعي. ولديهم من المال، والموارد، والنفوذ ما يكفي لتنفيذ وفرض أنظمة تصنيف صارمة تفرق بين المحتوى البشري والمحتوى الذي ينتجه الذكاء الاصطناعي. لكنهم لا يفعلون ذلك، لأن الأمر بالنسبة لهم لا يتعلق بالصواب والخطأ، ولا بالمسؤولية والأخلاق، بل يتعلق بالربح، ببساطة ووضوح. لا يهم ما إذا كان الفيديو قد صنعه إنسان أو آلة، فإذا حصل على مشاهدات ونقرات وتفاعل، فهذا يعني أنه يجلب المزيد من إيرادات الإعلانات للمنصة التي تستضيفه. تتعمد هذه الشركات معاملة الشغف البشري وعمليات الاحتيال بالتزييف العميق والمحتوى التلقائي المزعج على أنها الشيء ذاته. طالما أن ذلك يبقيك مستمراً في التصفح، فكل شيء بالنسبة لهم سواء. إنهم يربحون بنشاط من موت الإبداع، وما دام الرؤساء التنفيذيون والمساهمون يملؤون جيوبهم، فلن يتغيروا. لقد أثبتوا مراراً وتكراراً أن أولويتهم القصوى هي زيادة التفاعل. كل شيء آخر، سواء كان سلامة المستخدمين أو الأخلاق أو حتى بقاء الإبداع البشري، أقل أهمية بكثير. لقد أوضحوا موقفهم تماماً. لذا، نحن نفعل الشيء نفسه. نحن ننضم إلى " فريق الإنسان"(Team Human)، وهي حملة جديدة أنشأها المبدعون للحفاظ على سيطرة البشر على الذكاء الاصطناعي. هذه ليست شراكة تجارية أو صفقة إعلانية، بل هي حركة تضم أكبر المبدعين والقنوات على الإنترنت، بجمهور مشترك يتجاوز 350 مليون متابع. نحن نقف الآن لنعبر عن موقفنا ومشاعرنا. وإن لم يكن الأمر واضحاً بالفعل، فنحن محبطون وقلقون بشأن المسار الذي يتخذه الإنترنت والعالم بشكل عام. في هذه اللحظة، تخوض عمالقة التكنولوجيا والحكومات العالمية سباق تسلح عالي المخاطر لنشر نماذج ذكاء اصطناعي أكثر ذكاءً قبل منافسيهم. إنهم عميان تماماً عن الانهيار المجتمعي الذي يحدث من حولهم. انهيار هو نتيجة مباشرة لأفعالهم. وهذه هي الأخبار السيئة. أما الخبر الجيد فهو أن العالم يقترب من وضع لوائح دولية حقيقية وقابلة للتنفيذ ومؤثرة. بدأت القوى الكبرى تُظهر استعداداً للسيطرة على الموقف ووضع ضوابط أكثر صرامة. إنهم يريدون إبطاء التطوير المتهور لتقنيات خطيرة وغير مختبرة بشكل كافٍ. طالب العديد من خبراء سلامة الذكاء الاصطناعي بوضع مثل هذه اللوائح، مؤكدين أن هذه الضوابط ضرورية لحماية البشرية من كارثة محتملة. لكن الأمر متروك للجمهور ليُظهر لصناع القرار أن هذا هو ما يريدونه أيضاً. ويمكننا تحقيق ذلك. هدفنا بسيط، لكنه حيوي لمستقبل البشرية. نريد من 200 ألف شخص التوقيع على التعهد الرسمي في موقع teamhuman.org قبل الأول من نوفمبر. يقول "مركز سلامة الذكاء الاصطناعي" إن هذا سيكون كافياً لمساعدة جماعات المصلحة العامة والمدافعين عن سلامة الذكاء الاصطناعي للحصول على ما يحتاجونه. كافٍ للضغط على قادة العالم وإجبارهم على تمرير تشريعات طال انتظارها. إذا كنت تريد الحفاظ على سيطرة البشر على الذكاء الاصطناعي، وإيقاف عمليات الاحتيال بالتزييف العميق، وضمان ألا يصبح الفن البشري الحقيقي أثراً من الماضي، توجه إلى teamhuman.org وأضف اسمك إلى التعهد. كلما زاد عدد الموقعين، أصبح صوتنا الجماعي أعلى وأقوى. وهكذا نُظهر للسياسيين أننا لا نريد التغيير فحسب، بل نطالب به. لأننا إذا لم نتحرك قريباً، فقد يكون الأوان قد فات. نحن نقترب بالفعل من نقطة تحول خطيرة. تلك اللحظة الحاسمة التي سيتغير فيها الإنترنت والعالم كما نعرفه إلى الأبد. إن وتيرة تطوير الذكاء الاصطناعي تتجاوز بسرعة قدرتنا على إبقائه تحت السيطرة. إذا تركنا الأمر يستمر دون معايير سلامة مناسبة وتصنيفات للمنصات، فإننا نخاطر بفقدان السيطرة عليه إلى الأبد. وإذا لم نضغط على مكابح الطوارئ الآن، سيصبح الإنترنت مجرد مكب نفايات رقمي يفيض بالقمامة المولدة بواسطة الذكاء الاصطناعي. نحن لا نريد رؤية ذلك. هناك مساحة للمحتوى المولد بالذكاء الاصطناعي على الإنترنت، لكن يجب أن تكون هناك مساحة أيضاً لما جعله رائعاً في المقام الأول: البشر. لقد قام فريق برنامج TheInfographics Show بالتسجيل بالفعل. يجب عليك أنت أيضاً القيام بذلك. اضغط على الرابط في الوصف ولنُظهر للسياسيين والمنصات أننا نطالب بالتهدئة.