Yapay zeka tepkisi başlıyor: Sanatçılar bu güçlü araçla intihale karşı koruma sağlayabilir - Dünyadan Güncel Teknoloji Haberleri

Yapay zeka tepkisi başlıyor: Sanatçılar bu güçlü araçla intihale karşı koruma sağlayabilir - Dünyadan Güncel Teknoloji Haberleri
Nightshade’in yaptığı şey bu “güvenlik açığından” yararlanmaktır Tarafından açıklandığı gibi MIT Teknoloji İncelemesiBu “zehirli veri örneklerinin modelleri öğrenmeye yönlendirebilmesi” yanlış bir şey ” Umarım yakında bir gün Geliştiricilerin “bozuk her örneği bulup silmeleri” gerekecekti

Zehir taktikleri

Test aşamasının bir parçası olarak ekip, Stable Diffusion’ın bulaştığı içeriği besledi ve “daha sonra onu köpek resimleri oluşturmaya yönlendirdi” Zhao’ya çeşitli sorularla ulaştık Takımın “henüz bunlarla başa çıkma planı yok

Toksik bitki ailesinden sonra Nightshade olarak adlandırılan yazılımın, üretken yapay zekaların bunları yorumlama biçimini bozan dijital sanata zehirli pikseller kattığı söyleniyor Ancak MİT’in paylaşımında da belirtildiği gibi “bunları kaldırmak çok zor” Hatta belki telif ücreti ödemeye bile razı olabiliriz Bu aynı zamanda sanat tarzlarına da yansıyor

İllüstrasyonu hobi olarak edinmek istiyorsanız TechRadar’ın 2023’ün en iyi dijital sanat ve çizim yazılımları listesine göz atmayı unutmayın Bunun ne kadar zor olabileceğine dair size bir fikir vermek gerekirse, 1080p görüntüde iki milyonun üzerinde piksel bulunur Stabil Difüzyon gibi modellerin çalışma şekli, interneti taramaları ve eğitim verileri olarak kullanabilecekleri kadar çok görüntü toplamalarıdır ” Diğer çalışmalar için toksik yazılım geliştirmenin büyük bir çaba olacağını belirtiyor, “çünkü bu alanlar statik görüntülerden oldukça farklı

Gelecekteki çabalar

Ekip lideri olan Chicago Üniversitesi’nden Profesör Ben Y Aşağıda diğer denemeleri göreceksiniz ” MIT Technology Review kısa bir göz atmayı başardı

(İmaj kredisi: Chicago Üniversitesi/MIT Teknoloji İncelemesi)

Rapor, Nightshade’in aynı zamanda “yüzeysel olarak ilişkili” fikirleri de etkilediğini çünkü üretken yapay zekaların “kelimeler arasında bağlantı kurmada” iyi olduğunu söylüyor

Bunları da beğenebilirsin

300 verildikten sonra köpekler tam teşekküllü kedilere dönüştü Ayrıca Nightshade’i açık kaynak haline getirmeyi ve başkalarının kendi zehirlerini üretmelerine olanak sağlamayı umuyor Şu anda teknoloji “görevli incelemesi için şu adreste gönderildi: [the] bilgisayar güvenliği konferansı Usenix

Chicago Üniversitesi’ndeki bir araştırma ekibi, çevrimiçi sanatçıların orijinal çalışmalarına esasen zehirli haplar yerleştirerek “Yapay Zeka şirketlerine karşı savaşmalarına” yardımcı olmayı amaçlayan bir araç geliştirdi Eğer aşina değilseniz, cila, Zhao’nun ekibinin yarattığı, sanatçılara “kendi kişisel tarzlarını maskeleme” ve bunun yapay zeka tarafından benimsenmesini engelleme yeteneği veren başka bir araçtır

Bize Nightshade’i “halkın kullanımına sunmayı ve yayınlamayı” planladıklarını söyledi

Ayrıca Profesör Zhao’ya video ve edebiyat için bir Gece Gölgesi yaratma planlarının olup olmadığını sorduk 50 örnek verildikten sonra yapay zeka, altı bacaklı şekilsiz köpeklerin resimlerini oluşturdu Örneğin bir köpeğin resmini kedi olarak veya bir arabanın resmini inek olarak görebilir

(İmaj kredisi: Chicago Üniversitesi/MIT Teknoloji İncelemesi)

Yapay zeka şirketlerinin toksik pikselleri ortadan kaldırması mümkün

En azından fikir bu Şu anda birden fazla edebiyat yazarı var Programı talep eden OpenAI’ye dava açmak “telif hakkıyla korunan eserleri izinsiz kullanmaktır Nightshade henüz başlangıç ​​aşamasında

Şu ana kadar Nightshade’e yönelik ilk tepkiler olumlu ” Yapay zeka motoruyla uğraşan bir avuç pikseli bulmak için bir piksel denizine baktığınızı hayal edin Columbia Üniversitesi’nde bilgisayar bilimi profesörü Junfeng Yang, Technology Review’a bunun yapay zeka geliştiricilerinin “sanatçı haklarına daha fazla saygı duymasını” sağlayabileceğini söyledi 100’den sonra kediye benzeyen bir şey görmeye başlarsınız Glaze’in “isteğe bağlı bir özellik” olarak bir parçası olacak “Köpek” kelimesiyle oynamak köpek yavrusu, husky veya kurt gibi benzer kavramları karıştırır Bu yeterince zor değilse, bu modeller “milyarlarca veri örneği üzerinde eğitiliyor