Sanat Üreticilerini İçeriden Öldürerek Yapay Zekaya Karşı Mücadele Edin - Dünyadan Güncel Teknoloji Haberleri

Sanat Üreticilerini İçeriden Öldürerek Yapay Zekaya Karşı Mücadele Edin - Dünyadan Güncel Teknoloji Haberleri

Yine de program, SDXL veya SDXL gibi mevcut modelleri değiştiremeyecektir

Gizmodo yorum yapmak için Stability AI’ye ulaştı ancak hemen yanıt alamadık Benzer şekilde, farklı stillerin hepsi riskli çıktı


Sanatçılar, çalışmalarını yapay zekayı eğitmek için kullanmak isteyen teknoloji şirketlerinin kaprislerine karşı nasıl mücadele edebilir? Bir grup araştırmacının yeni bir fikri var: Yapay zeka sanat üretecini içeriden dışarıya doğru öldürmek için sanatın içine incelikli bir zehir sokmak

Gerçek görüntüleri yapay zeka tarafından oluşturulanlardan ayırmaya yönelik çabalar da artıyor

ChatGPT’nin Yaratıcı Arkadaşları Kongreye Hazır | Geleceğin Teknolojisi

Chicago Üniversitesi’nde bilgisayar bilimi profesörü ve yapay zekanın veri kazıma uygulamalarını açık sözlü bir şekilde eleştiren Ben Zhao şunları söyledi: MIT Teknoloji İncelemesi kendisi ve ekibinin “Nightshade” adlı yeni aracı, üzerinde ne yazıyorsa onu yapıyor; yapay zekayı eğitmek için görselleri kullanan tüm modelleri zehirliyor Bu modellerin hepsi zaten sanatçıların geçmiş çalışmaları üzerine eğitilmiş Zhao, MIT Technology Review’a Nightshade’in Glaze’e başka bir araç olarak entegre edileceğini ancak aynı zamanda diğer geliştiricilerin de benzer araçlar oluşturması için açık kaynak pazarında yayınlanacağını söyledi Yapay zekayı Stabilite Yapay Zekası gibi eğitmek için bu bozuk görüntülerden yeterli sayıda kullanıldığında Kararlı Difüzyon XL, tüm model bozulmaya başlar Nightshade, sanatçılara eserlerini koruma şansı sunan az sayıdaki ve potansiyel olarak en mücadeleci girişimlerden biri Şirketler ve yapay zeka savunucuları, üretken yapay zekanın bu eğitim verilerine dayalı olarak yeni içerik oluşturması nedeniyle eğitim verilerindeki tüm kitapların, makalelerin, resimlerin ve sanat eserlerinin adil kullanım kapsamına girdiğini savundu Stability AI, Midjourney ve DeviantArt gibi şirketler zaten sanatçılar tarafından dava edildi telif hakkıyla korunan çalışmalarını yapay zekayı eğitmek için kullandıkları için yakın zamanda piyasaya sürülen DALL-3 SDXL’den ünlü Bilim Kurgu ve fantezi sanatçısı Michael Whelan’ın tarzında bir tablo yapmasını isterseniz, zehirli model onların çalışmalarına çok daha az benzeyen bir şey yaratır Benzer şekilde bir görüntüdeki pikselleri de bozar, böylece yanıltıcı Bir sanatçıyı ve eserini taklit etmeye çalışan yapay zeka sanat yaratıcıları Google’a ait DeepMind bir filigran kimliği geliştirdiğini iddia ediyor Bu, nasıl manipüle edilirse edilsin, bir görüntünün yapay zeka tarafından oluşturulup oluşturulmadığını belirleyebilir Sırbir tür “stil pelerini” yaratabilen bir araç maske sanatçılarının görselleri Bu tür filigranlar, Nightshade’in yaptığının aynısını etkili bir şekilde yapıyor; pikselleri çıplak gözle algılanamayacak şekilde değiştiriyor Yine de, yeni yapay zeka sanat üreteçleri geliştiren herkesi internetten toplanan eğitim verilerini kullanmadan önce iki kez düşünmeye zorlayabilir AI geliştiricilerine saldıran başka birçok dava var: Google, MetaVe OpenAI telif hakkıyla korunan eseri izinsiz kullanmak için DeviantArt topluluğu zaten oldukça güzel bir deneyime sahip



genel-7

Diğer araştırmacılar da görüntülere bağışıklık kazandırmanın bazı yollarını buldu Yapay zeka tarafından doğrudan manipülasyondan korundu, ancak bu teknikler, ilk etapta sanat yaratıcılarını eğitmek için kullanılan veri kazıma tekniklerini durdurmadı Ekip, veri örneklerini bir SDXL sürümüne ekledikten sonra model, “araba” istemini bunun yerine “inek” olarak yorumlamaya başlayacaktı yüzyıl empresyonistlerini anımsatan bir sanat sunuyordu

Sanatçıların Yapay Zeka Eğitimine Karşı Mücadele Etmek İçin Hangi Araçlara Sahip Olması Gerekiyor?

Zhao aynı zamanda yapımına yardımcı olan ekibin lideriydi olumsuz tepki Sitenin yerleşik yapay zeka sanat oluşturucusuna ve eğer yeterli sayıda kullanıcı görsellerini zehirlerse, bu durum geliştiricileri zehirli görsellerin her bir örneğini elle bulmaya zorlayabilir veya aksi takdirde tüm model üzerindeki eğitimi sıfırlamaya zorlanabilir Köpek kediye, şapka ise pastaya dönüştürüldü

OpenAI geliştiricileri kendi açıklamalarında şunu belirtti: Araştırma kağıdı en yeni sanat oluşturucularının, şirketin kendi özel araçları tarafından oluşturulan ayrıntılı altyazılarla eğitildiğinden çok daha gerçekçi görüntüler oluşturabildiğini söyledi DeviantArt gibi Şirket, yeni yapay zeka modelinin eğitimine gerçekte ne kadar verinin harcandığını açıklamadı (çoğu yapay zeka şirketi, yapay zeka eğitim verileri hakkında herhangi bir şey söylemek konusunda isteksiz hale geldi), ancak yapay zekayla mücadele çabaları zaman geçtikçe artabilir

Nightshade, yapay zekalarını eğitmek için sanatçıların çalışmalarını aktif olarak kullanan şirketler için potansiyel olarak yıkıcıdır

Araç, görüntüyü piksel düzeyinde değiştirerek onu çıplak gözün algılayamayacağı şekilde bozuyor Bu yapay zeka araçları geliştikçe, onları desteklemek için daha fazla veriye ihtiyaç duyuyorlar ve sanatçılar bunlarla mücadele etmek için daha da büyük önlemler almaya istekli olabilir

Yapay zeka modelinin boyutuna bağlı olarak, bu garip halüsinasyonları yaratmak için yüzlerce veya daha fazla olasılıkla binlerce zehirli görüntüye ihtiyacınız olacak Bir “karikatür” talebi, 19 Şimdiye kadar sanatçıların yapay zeka şirketleriyle mücadelede tek seçeneği onları dava etmek ya da geliştiricilerin sanatçının kendi devre dışı bırakma isteklerine uymak En büyük yapay zeka şirketlerinden bazıları oluşturulan içeriğe filigran ekleneceğine söz verildi ileriye gidiyor, ancak mevcut çabalar Adobe’nin meta veri AI etiketleri gerçekten herhangi bir seviyede gerçek şeffaflık sunmuyorum

Aynı zamanda bireysel sanatçıları savunmaya da çalıştı