Tabii ki, Altman kendisini “kazanmadı” diye suçlayan kuruldan galip ayrıldı Eski Y Combinator başkanı Altman yeniden dümene geçti ama dönüşü haklı mı? OpenAI’nin yeni yönetim kurulu daha az çeşitliliğe sahip bir başlangıç yapıyor (yani tamamı beyaz ve erkek) ve şirketin kurucu hayırseverlik hedefleri daha kapitalist çıkarlar tarafından benimsenme tehlikesiyle karşı karşıya Altman’ın ani çıkışı ve OpenAI’nin şüpheli geçici CEO’lardan oluşan kadrosu, Thrive’ın soğuk davranmasına neden oldu ve satışı tehlikeye attı
Neden bazı yapay zeka uzmanları OpenAI’nin yeni yönetim kurulu hakkında endişeli?Hayal kırıklığına uğrayan tek kişi ben değilim
Cuma sabahı itibariyle OpenAI’nin altı kişilik bir kurulu vardı: Altman, OpenAI baş bilim adamı Ilya Sutskever, OpenAI başkanı Greg Brockman, teknoloji girişimcisi Tasha McCauley, Quora CEO’su Adam D’Angelo ve Georgetown Güvenlik ve Gelişen Teknolojiler Merkezi direktörü Helen Toner
Bu şu soruyu gündeme getiriyor: OpenAI neden Timnit Gebru veya Margaret Mitchell gibi tanınmış bir yapay zeka etik uzmanını ilk kurul için işe almaya çalışmadı? Bunlar “mevcut değil” miydi? Reddettiler mi? Yoksa OpenAI ilk etapta çaba göstermedi mi? Belki de hiçbir zaman bilemeyeceğiz
OpenAI’nin alışılmadık yapısı, aralarında Altman’ın da bulunduğu şirketin kurucu ortakları tarafından en iyi niyetlerle oluşturuldu Bu arada Thrive Capital, yukarıda adı geçen Khosla Ventures, Tiger Global Management ve Sequoia Capital’in, Altman’ı yeniden göreve getirmek için hafta sonu yapılan müzakerelerin yolunda gitmemesi halinde yönetim kuruluna karşı yasal işlem başlatmayı düşündüğü söylendi
Salesforce Marc Benioff, X’te “iyi adamların” kazandığını paylaştı Ancak konuştuğum eleştirmenler, OpenAI’nin şu anki kurulu gibi bir kurulun, en azından daha çeşitli bir kurulun yapacağı şekilde değil, sürekli olarak bu zorluklara öncelik vereceğine inanmakta zorlanıyor Ancak OpenAI’nin çökmesi durumunda bu OpenAI çalışanlarının kaybedecekleri çok şey olduğu da göz önünde bulundurulmalıdır: Microsoft’tan gelen iş teklifleri ve Satış ekibi bir kenara Bu North Star belgesinde ne “kar” ne de “gelir”den bahsedilmiyor; Toner bildirildiğine göre Bir keresinde Altman’ın yönetim ekibine OpenAI’nin çöküşünü tetiklemenin “aslında [nonprofit’s] misyon Bu arada Summers’ın derin iş ve hükümet bağlantıları var – OpenAI için bir varlık, onun seçimiyle ilgili düşünceler muhtemelen yapay zekaya yönelik düzenleyici incelemelerin yoğunlaştığı bir zamanda gitti ”
Sanford Yapay Zeka Laboratuvarı’nın yöneticisi Christopher Manning, değerlendirmesinde Giansiracusa’ya göre biraz daha hayırsever ama onunla aynı görüşte:
TechCrunch’a “Yeni oluşturulan OpenAI kurulu muhtemelen hala eksik” dedi
Altman’ın işten çıkarılması Microsoft ve OpenAI çalışanlarını birleştirdiYönetim kurulunun Cuma günü, OpenAI’nin 770 kişilik iş gücünün büyük kısmı da dahil olmak üzere hemen hemen hiç kimseye haber vermeden Altman’ı aniden kovmasının ardından, startup’ın destekçileri hoşnutsuzluklarını hem özel hem de kamuda dile getirmeye başladı
genel-24
Bu, eski OpenAI’nin kesinlikle mükemmel olduğu anlamına gelmiyor
OpenAI’nin gücü Kurucu ortak Sam Altman’ın kovulmasının ardından teknoloji dünyasını büyüleyen mücadele, en azından şimdilik nihayet sona erdi Altı koltuk henüz doldurulmamış olsa da ilk dördü oldukça homojen bir ton oluşturuyor; böyle bir kurul aslında Avrupa’da yasa dışı olacaktır; emirler Şirketler yönetim kurullarındaki koltuklarının en az %40’ını kadın adaylara ayırıyor
— Ashley Mayer (@ashleymayer) 22 Kasım 2023
Eşitsizlik yapay zeka endüstrisini rahatsız ediyor açıklayıcılar Üretken yapay zeka modellerini eğitmek için kullanılan verileri, bu eğitilmiş modellerde sıklıkla ortaya çıkan zararlı önyargılara karşı etiketleyenler, OpenAI’nin modelleri dahil [being] yönetim kurulu üyelerine karşı sürekli olarak samimi ve bazı raporlara göre büyümeyi misyonun önüne koyuyor Altman’ı gereksiz derecede dramatik bir şekilde görevden aldıklarını söylemek yanlış olmaz Ancak yöneticilerin, en azından hümanist direktiflerini nasıl yorumladıklarına bağlı olarak, Altman’ı bırakmak için geçerli nedenleri olabileceği inkar edilemez İnsanlığın yarısı kadın olduğundan son olaylar bana bu konuda pek güven vermiyor ” “Özellikle rahatsız edici bulduğum şey, OpenAI’nin ana amacının ‘tüm insanlığa fayda sağlayan’ yapay genel zeka geliştirmek olmasıdır ”
OpenAI çalışanları adına Sam’in geri dönmesi beni çok heyecanlandırıyor, ancak mutlu sonumuzun, yapay zekanın tüm insanlığa fayda sağlamasını sağlamakla görevli bir kurulda üç beyaz adam olması sanki 2023’teymiş gibi geliyor Ve OpenAI’nin, yatırımcıların karlarının sınırlandırılması ve yönetim kurulunun gelir odaklı olmayan kararlar alma özgürlüğüne sahip olmasıyla yapısını koruyacağı bildiriliyor Ancak yatırımcılar ve güçlü ortaklar işin içine girince işler… daha da çetrefilli hale geldi
Önemli bir OpenAI işbirlikçisi olan Microsoft’un CEO’su Satya Nadella, iddiaya göre Altman’ın ayrılışını öğrenince “öfkelendi”
Bentley Üniversitesi’nde matematik profesörü ve sosyal medya öneri algoritmaları üzerine bir kitabın yazarı olan Noah Giansiracusa, hem kurulun tamamı erkeklerden oluşan yapısıyla hem de bir geçmişe sahip olduğunu belirttiği Summers’ın adaylığıyla ilgili sorun yaşıyor Yakında daha fazlasının geleceğini umuyoruz Peki bundan ne yapmalı?
Sanki OpenAI ölmüş ve yeni, ancak mutlaka iyileştirilmemiş bir startup onun ortasında duruyormuş gibi, sanki biraz övgü gerekiyormuş gibi geliyor
Ancak bu muhabire yönetmenler doğrudan bir “kazanma” gibi görünmüyor; eğer amaç farklı bakış açılarıysa, bu mümkün değil Bu iddia edilen sahtekârlığın bir örneğinde Altman, olduğu söylendi OpenAI’nin güvenliğe yaklaşımını eleştirel bir bakış açısıyla ele alan, ortak yazarı olduğu bir makale nedeniyle Toner’ı eleştirdi; öyle ki Toner onu tahtadan itmeye çalıştı Yönetim kurulu teknik olarak OpenAI’nin kâr amacı güden tarafında çoğunluk hissesine sahip olan ve kâr amacı güden OpenAI’nin faaliyetleri, yatırımları ve genel yönü üzerinde mutlak karar alma yetkisine sahip olan kâr amacı gütmeyen bir kuruluşa bağlıydı Eğer daha çeşitli bir yola gitmezlerse, Yapay Zeka Politika Enstitüsü düşünce kuruluşunun yöneticisi Daniel Colson şunları söylüyor: söz konusu X’te söylenenler doğru olabilir: Yapay zekanın sorumlu bir şekilde geliştirilmesi konusunda birkaç kişiye veya tek bir laboratuvara güvenilemez aşağılayıcı sözler kadınlar hakkında Taylor, FriendFeed (Facebook tarafından satın alındı) ve Quip (bu şirketin satın alınmasıyla Salesforce’a geldi) dahil olmak üzere çok sayıda şirketin kurucu ortağı olan bir girişimci girişimcidir ”
Belki de bu düzenleme paralel bir evrende işe yarayabilirdi; Yıllar boyunca OpenAI’de yeterince iyi çalıştığı görüldü
Giansiracusa, mesaj yoluyla şunları söyledi: “Bu olaylarla ilgili ne yapılırsa yapılsın, en azından optikler hiç de iyi değil – özellikle de yapay zeka geliştirmede öncülük eden ve içinde yaşadığımız dünyayı yeniden şekillendiren bir şirket için Toner, yapay zekanın güvenlik yönünü en doğrudan temsil ediyor ve bu, tarih boyunca, özellikle de teknolojide, kadınların sıklıkla düştüğü konum oldu: Erkekler yenilik yapma ve dünyayı yönetme övgüsünü alırken toplumu büyük zararlardan korumak OpenAI’nin Altman’ın taleplerinden birini karşılayan yeni bir geçiş kurulu var Bazı yapay zeka akademisyenleri bugün erken saatlerde hayal kırıklıklarını dile getirmek için X’e döndü
Şu anda OpenAI’nin yönetim kurulu eski Salesforce eş CEO’su Bret Taylor, D’Angelo (orijinal yönetim kurulundan kalan tek kişi) ve ekonomist ve eski Harvard başkanı Larry Summers’dan oluşuyor
OpenAI, Thrive liderliğinde, şirketin değerlemesini 29 milyar dolardan 80 milyar ila 90 milyar dolar arasına çıkaracak bir hamleyle muhtemelen çalışan hisselerini satmak için görüşmelerde bulunuyordu
Altman beş günlük savaşı kazandı ama ne pahasına?Ama şimdi birkaç nefes kesici, tüyler ürpertici günün ardından bir tür çözüme ulaşıldı “Bununla birlikte, insan toplumunda yapay zekanın sorumlu kullanımı konusunda derin bilgiye sahip kimsenin bulunmadığı ve yalnızca beyaz erkeklerden oluşan mevcut yönetim kurulu üyeliği, bu kadar önemli ve etkili bir yapay zeka şirketi için umut verici bir başlangıç değil
Artık OpenAI çalışanları hizalanmamış dışarıdan görünen bu yatırımcılarla
Kurul, olası yasal zorlukları öne sürerek defalarca şans verilmesine rağmen kendilerini açıklamadı Kâr amacı gütmeyen kuruluşun son derece kısa (500 kelimelik) tüzüğü, yönetim kurulunun “yapay genel zekanın tüm insanlığa fayda sağlamasını” sağlayacak kararlar aldığını ve bunu en iyi nasıl yorumlayacaklarına karar verme yetkisini yönetim kurulu üyelerine bıraktığını belirtiyor Altman, yönetim kurulunun kararını protesto etmek amacıyla Cuma günü istifa eden Brockman ile birlikte, görevden alınmasına yol açan endişelere ilişkin bir arka plan soruşturmasına tabi olmasına rağmen geri döndü Ancak bunu söylemek için erken olabilir Bir başka OpenAI destekçisi olan Khosla Ventures’ın kurucusu Vinod Khosla, X’te (eski adıyla Twitter) fonun aranan Altman geri döndü
Yeni yönetim kurulunun bu direktifi farklı yorumlaması muhtemel görünüyor Yazlar uzak olmak, sahip olmak AI’nın en azından geçim kaynaklarıyla ilgili olası zararlı sonuçlarıyla ilgili endişelerini dile getirdi Tam tersine, Sutskever de dahil olmak üzere hepsine yakın bir kişi, bariz bir fikir değişikliğiyle, gidişatı tersine çevirmemeyi tercih etmeleri halinde yönetim kurulunu toplu istifayla tehdit eden bir mektup imzaladı
OpenAI’nin, kalan beş yönetim kurulu koltuğunu (söylentilere göre) Altman ve bir Microsoft yöneticisinin her birini alması halinde üç veya üç sandalyeyi seçerken daha akıllı ve dünyevi olduğunu kanıtlama şansı var