Profesör Talia, sizi Yapay Zeka Güvenliği Merkezi’nin bildirisini imzalamaya iten nedenler nelerdir?
Son yıllarda geliştirilen yapay zeka teknolojileri müthiştir ve şimdiye kadar yalnızca insanoğlunun ayrıcalığı olan çok karmaşık görevleri yerine getirebilir. Sahip oldukları muazzam potansiyel sayesinde Olumsuz etkiler Küresel ölçekte bilgileri manipüle etmek, sosyal sonuçları olan kontrolsüz kararlar almak, robot askerler veya askeri altyapı oluşturmak veya yönetmek veya iş dünyasında büyük ölçekte insanların yerini almak için kullanıldıysa, insanlık açısından. Bu senaryoların somut olasılığının, temyiz başvurusunu imzalamak ve böylece tüm vatandaşları risk konusunda uyarmak için yeterli motivasyon olduğuna inanıyorum.
Bu mektuba yönelik bazı eleştiriler oldu, her şeyden önce sözde alarmist tonlar için. Neden durum böyle değil ve öne sürülen senaryolar ne kadar gerçekçi?
Eleştiri, bilgili insanlardan gelirse memnuniyetle karşılanır. Ne yazık ki, bir algoritmanın ne olduğu hakkında hiçbir fikri olmayan birçok kişi, bir makine öğrenimi tekniğinin (makine öğrenimi) temel işleyişini bilmiyor ve pek de sağlam temellere dayanmayan yargılara varıyor. İç işleyişi çoğu zaman onları geliştirenler tarafından bile bilinmeyen sistemlerle uğraştığımız anlaşılmalıdır.
Birkaç somut örnek verebilir misiniz?
Örneğin, sistemleri derin öğrenme onları programlayan programcıların bile anlayamadığı “kara kutular”dır ve dünyadaki yaygın kullanımları (sürücüsüz arabalar, sohbet robotları, finansal piyasalar, birçok silah ve sağlık sistemi tarafından kullanılırlar) gerçek tehlikelere yol açabilir. daha şimdiden üretim dünyasında, demokrasilerin işleyişinde, yeni eşitsizliklerin yaratılmasında önümüzdeki yıllarda. Bilgisayar araştırmaları sözde sistemler üretti. ‘özerk’ kendilerini yönetebilir ve onarabilirler. Bu sistemler, geniş ölçekte kullanılırsa yönetilemez hale gelebilir. Çoğu zaman mektubu alarmist olarak görenler ne yazık ki zaten mevcut olan yapay zeka çözümlerinin gücünü bilmiyor.
Yapay zekanın kısa ve uzun vadede temsil ettiği başlıca riskler nelerdir? Nasıl ayarlanabilirler?
Riskler üretken yapay zekanın farklı ve giderek daha özerk hale gelen, nasıl inşa edileceğini bilen bir teknolojiyle ilgilidir. derin sahte (metinler, fotoğraflar, videolar) çoğu kişiye tamamen gerçek görünür. İnsanların kritik sektörlerde karar vermek için giderek daha fazla güvendiği bir teknoloji. Yapay Zeka Güvenliği Merkezi’nin itirazını imzalayan uzmanlar, uzun vadede, akıllı otomatik sistemlerin, işleyebilecekleri muazzam veriler ve devasa bilgi işlem güçleri ve algoritmik karmaşıklıkları sayesinde insanlarınkini geride bırakacak yeteneklere sahip olacağından korkuyorlar. Bu nedenlerle temyiz başvurusu uluslararası düzenlemeler, kanunlar ve standartlar örneğin ilaç ve aşıların ve hatta nükleer silahların üretiminde olduğu gibi kullanımlarını düzenleyen.
Meredith Whittaker ve Margaret Mitchell gibi diğer uzmanlar, yapay zekanın oluşturduğu riskleri kabul ederken, alarmın gözetleme amacıyla kullanılması gibi daha acil gerçek sorunları tanımadığını söylüyor. Bu noktada hemfikir misiniz yoksa ikisinin birbirini tamamlayıcı olduğunu mu düşünüyorsunuz?
Whittaker ve Mitchell’in endişeleri paylaşılıyor. Dijital sistemler aracılığıyla gözetim, vatandaşların haklarına yönelik bir tehdit ve demokratik kurallara saygı için. Siber gözetleme teknikleri, Web ve sosyal medyanın büyük büyük teknolojileri tarafından ve farklı nedenlerle, özellikle liberal olmayanlar olmak üzere birçok hükümet tarafından kullanılmaktadır. Avrupa’da ve diğer ülkelerde güçlendirilmesi gereken bazı yasal girişimler bu yönde ilerlemiştir. Ancak üretici yapay zeka, kontrolsüz bırakılırsa daha tehlikeli sistemler kurmayı mümkün kılacaktır. çünkü dijital gözetlemeyi nüfusun geniş kesimlerinin manipülasyonu eylemiyle birleştirme yeteneğine sahiptir. insan benzeri dillerde yapılan büyük ölçekli dezenformasyon ve giderek karmaşıklaşan etkileşim biçimleri yoluyla.
Haziran ortasında, Avrupa Parlamentosu iki yılı aşkın bir süredir üzerinde çalışılan yeni “Yapay zeka” yasasını oylayacak. Ayrıca, ABD ve Avrupa ortak bir davranış kuralları üzerinde çalışıyor. Sence bu iyi bir başlangıç noktası olabilir mi yoksa hala çok mu az?
Avrupa AI Yasası, diğer uluslar için öncü görevi görebilecek önemli bir ilk girişimdir. Ancak Avrupa Parlamentosu 2021’den beri üzerinde çalışıyor ve iki yıl geçmesine rağmen hala onaylayamadı. Umduğumuz gibi, yıl sonuna kadar onaylanırsa 2025 yılında yürürlüğe girecek. Bu arada yeni AI sistemlerinin gelişimi giderek daha hızlı ve daha hızlı olurken, siyasi ve yasama süreçlerinin ne kadar yavaş olduğunu fark etmemek mümkün değil. yasaları eksik ve hatta geçersiz kılma riskini alırlar. Son birkaç ayda ABD Kongresi ve G7 hükümetleri bile düzenleyici eylemler başlatma yönünde ilerliyor gibi görünüyor. Çağrı, vatandaşlara bir sinyal vermenin yanı sıra, hükümetlerin ve parlamentoların yapay zeka sistemlerinin kullanımını mümkün olan en kısa sürede düzenlemeye teşvik ederek vatandaşlara fayda sağlamayı ve aynı zamanda riskleri ve tehditleri sınırlamayı amaçlıyor.
Şirketler net düzenleme isteyen ilk kişilerdir. İhtiyaçları, özellikle güvenlik açısından neden ve nasıl vatandaşların ihtiyaçlarına göre ayarlanabilir?
Üretken yapay zeka sistemlerinin (OpenAI, Google, Anthropic, Microsoft) geliştirilmesinde en önemli olan şirketlerin önde gelen temsilcileri tarafından da temyiz başvurusunun imzalanması, son aylarda bir sonradan akla gelen yakın zamana kadar yapay zeka sistemlerinin geliştirilmesi ve ticarileştirilmesinde ellerini serbest bırakmak isteyen kendi taraflarında. Bir yandan riskleri anladılar, diğer yandan da sizin de dediğiniz gibi bu olağanüstü sistemlerin kullanımını uygun şekilde düzenlemenin kendileri için uygun olduğunu anladılar sanırım.
Ancak bunun şirketlerin ekonomik gelişimine yansımaları olmayacak mı?
BT şirketleri yavaş yavaş fark ediyor ki ben ekonomik çıkarları haklarla uyumlu hale gelmelidir aksi takdirde ticari stratejileri uzun vadede sürdürülebilir olmayacaktır. Çok uzun süredir Web ve sosyal ağlar, yeni teknolojik çözümlerin genellikle insanların verilerini çalmak, ticari ve bilgi manipülasyonu, zorbalık ve dijital nefret eylemleri için kullanıldığı dijital bir Vahşi Batı oldu. Erdemli olmak isteyen şirketler, çevrimiçi kullanıcıların güvenliğini korumayı öğrenmeli, aksi takdirde Vatandaşları koruyan hükümetler olmak zorunda kalacak.
Yapay zekanın gelecekte her halükarda hayatımızın giderek daha fazla parçası olacağı aşikar. Bir profesör olarak, genç insanların bu aracı anlamalarına yardımcı olmak için benzer bir konunun okul düzeyinde nasıl tanıtılabileceğini düşünüyorsunuz?
Yapay zekanın ilerlemesine ayak uyduracak yönetmelikler, kanunlar ve yönetmeliklerin yanı sıra, çocukların eğitimi ve vatandaş bilincine de şiddetle ihtiyaç var. Okullarımız geri kalıyor. Üretken yapay zeka sistemlerinin kullanımını yasaklamamalı ve hatta çocukların bunları giderek daha sık kullandığını bilmiyormuş gibi davranmamalıyız. Bunun yerine, gerekli ulusal eğitim eylemleri öğretmenlere ve çocuklara AI sistemlerinin ne olduğunu ve nasıl çalıştığını açıklayan.
Özellikle neye ihtiyaç var?
Öğrencilere Bard ve ChatGPT gibi sistemlerin pratik potansiyellerini ve gerçek risklerini gösteren eğitim projelerine ihtiyacımız var. Onlara hem beşeri bilimler hem de bilim konularında nasıl yararlı bir şekilde kullanılabileceğini açıklayın. Sınırlarını ve hatalarını pratik örneklerle gösterin. Kısacası, çalışma ve öğrenmeyi desteklemek için yapay zeka sistemlerinin kullanımını teşvik eden eğitim girişimleri başlatın. çocukların eğitimini güncellemek, kullanıcıdan herhangi bir onay almadan ChatGPT’ye ödevinizi yaptırmamak. O zaman, belki de, ChatGPT tarafından icat edilen ve gerçekte hiçbir mahkeme tarafından verilmemiş olan cezaların davalarını kontrol etme öngörüsüne sahip olmayan ABD’deki bir avukatın başına geldiği gibi, bu sistemin saçmalık önerdiğini keşfetmek için.
Son yıllarda geliştirilen yapay zeka teknolojileri müthiştir ve şimdiye kadar yalnızca insanoğlunun ayrıcalığı olan çok karmaşık görevleri yerine getirebilir. Sahip oldukları muazzam potansiyel sayesinde Olumsuz etkiler Küresel ölçekte bilgileri manipüle etmek, sosyal sonuçları olan kontrolsüz kararlar almak, robot askerler veya askeri altyapı oluşturmak veya yönetmek veya iş dünyasında büyük ölçekte insanların yerini almak için kullanıldıysa, insanlık açısından. Bu senaryoların somut olasılığının, temyiz başvurusunu imzalamak ve böylece tüm vatandaşları risk konusunda uyarmak için yeterli motivasyon olduğuna inanıyorum.
Bu mektuba yönelik bazı eleştiriler oldu, her şeyden önce sözde alarmist tonlar için. Neden durum böyle değil ve öne sürülen senaryolar ne kadar gerçekçi?
Eleştiri, bilgili insanlardan gelirse memnuniyetle karşılanır. Ne yazık ki, bir algoritmanın ne olduğu hakkında hiçbir fikri olmayan birçok kişi, bir makine öğrenimi tekniğinin (makine öğrenimi) temel işleyişini bilmiyor ve pek de sağlam temellere dayanmayan yargılara varıyor. İç işleyişi çoğu zaman onları geliştirenler tarafından bile bilinmeyen sistemlerle uğraştığımız anlaşılmalıdır.
Birkaç somut örnek verebilir misiniz?
Örneğin, sistemleri derin öğrenme onları programlayan programcıların bile anlayamadığı “kara kutular”dır ve dünyadaki yaygın kullanımları (sürücüsüz arabalar, sohbet robotları, finansal piyasalar, birçok silah ve sağlık sistemi tarafından kullanılırlar) gerçek tehlikelere yol açabilir. daha şimdiden üretim dünyasında, demokrasilerin işleyişinde, yeni eşitsizliklerin yaratılmasında önümüzdeki yıllarda. Bilgisayar araştırmaları sözde sistemler üretti. ‘özerk’ kendilerini yönetebilir ve onarabilirler. Bu sistemler, geniş ölçekte kullanılırsa yönetilemez hale gelebilir. Çoğu zaman mektubu alarmist olarak görenler ne yazık ki zaten mevcut olan yapay zeka çözümlerinin gücünü bilmiyor.
Yapay zekanın kısa ve uzun vadede temsil ettiği başlıca riskler nelerdir? Nasıl ayarlanabilirler?
Riskler üretken yapay zekanın farklı ve giderek daha özerk hale gelen, nasıl inşa edileceğini bilen bir teknolojiyle ilgilidir. derin sahte (metinler, fotoğraflar, videolar) çoğu kişiye tamamen gerçek görünür. İnsanların kritik sektörlerde karar vermek için giderek daha fazla güvendiği bir teknoloji. Yapay Zeka Güvenliği Merkezi’nin itirazını imzalayan uzmanlar, uzun vadede, akıllı otomatik sistemlerin, işleyebilecekleri muazzam veriler ve devasa bilgi işlem güçleri ve algoritmik karmaşıklıkları sayesinde insanlarınkini geride bırakacak yeteneklere sahip olacağından korkuyorlar. Bu nedenlerle temyiz başvurusu uluslararası düzenlemeler, kanunlar ve standartlar örneğin ilaç ve aşıların ve hatta nükleer silahların üretiminde olduğu gibi kullanımlarını düzenleyen.
Meredith Whittaker ve Margaret Mitchell gibi diğer uzmanlar, yapay zekanın oluşturduğu riskleri kabul ederken, alarmın gözetleme amacıyla kullanılması gibi daha acil gerçek sorunları tanımadığını söylüyor. Bu noktada hemfikir misiniz yoksa ikisinin birbirini tamamlayıcı olduğunu mu düşünüyorsunuz?
Whittaker ve Mitchell’in endişeleri paylaşılıyor. Dijital sistemler aracılığıyla gözetim, vatandaşların haklarına yönelik bir tehdit ve demokratik kurallara saygı için. Siber gözetleme teknikleri, Web ve sosyal medyanın büyük büyük teknolojileri tarafından ve farklı nedenlerle, özellikle liberal olmayanlar olmak üzere birçok hükümet tarafından kullanılmaktadır. Avrupa’da ve diğer ülkelerde güçlendirilmesi gereken bazı yasal girişimler bu yönde ilerlemiştir. Ancak üretici yapay zeka, kontrolsüz bırakılırsa daha tehlikeli sistemler kurmayı mümkün kılacaktır. çünkü dijital gözetlemeyi nüfusun geniş kesimlerinin manipülasyonu eylemiyle birleştirme yeteneğine sahiptir. insan benzeri dillerde yapılan büyük ölçekli dezenformasyon ve giderek karmaşıklaşan etkileşim biçimleri yoluyla.
Haziran ortasında, Avrupa Parlamentosu iki yılı aşkın bir süredir üzerinde çalışılan yeni “Yapay zeka” yasasını oylayacak. Ayrıca, ABD ve Avrupa ortak bir davranış kuralları üzerinde çalışıyor. Sence bu iyi bir başlangıç noktası olabilir mi yoksa hala çok mu az?
Avrupa AI Yasası, diğer uluslar için öncü görevi görebilecek önemli bir ilk girişimdir. Ancak Avrupa Parlamentosu 2021’den beri üzerinde çalışıyor ve iki yıl geçmesine rağmen hala onaylayamadı. Umduğumuz gibi, yıl sonuna kadar onaylanırsa 2025 yılında yürürlüğe girecek. Bu arada yeni AI sistemlerinin gelişimi giderek daha hızlı ve daha hızlı olurken, siyasi ve yasama süreçlerinin ne kadar yavaş olduğunu fark etmemek mümkün değil. yasaları eksik ve hatta geçersiz kılma riskini alırlar. Son birkaç ayda ABD Kongresi ve G7 hükümetleri bile düzenleyici eylemler başlatma yönünde ilerliyor gibi görünüyor. Çağrı, vatandaşlara bir sinyal vermenin yanı sıra, hükümetlerin ve parlamentoların yapay zeka sistemlerinin kullanımını mümkün olan en kısa sürede düzenlemeye teşvik ederek vatandaşlara fayda sağlamayı ve aynı zamanda riskleri ve tehditleri sınırlamayı amaçlıyor.
Şirketler net düzenleme isteyen ilk kişilerdir. İhtiyaçları, özellikle güvenlik açısından neden ve nasıl vatandaşların ihtiyaçlarına göre ayarlanabilir?
Üretken yapay zeka sistemlerinin (OpenAI, Google, Anthropic, Microsoft) geliştirilmesinde en önemli olan şirketlerin önde gelen temsilcileri tarafından da temyiz başvurusunun imzalanması, son aylarda bir sonradan akla gelen yakın zamana kadar yapay zeka sistemlerinin geliştirilmesi ve ticarileştirilmesinde ellerini serbest bırakmak isteyen kendi taraflarında. Bir yandan riskleri anladılar, diğer yandan da sizin de dediğiniz gibi bu olağanüstü sistemlerin kullanımını uygun şekilde düzenlemenin kendileri için uygun olduğunu anladılar sanırım.
Ancak bunun şirketlerin ekonomik gelişimine yansımaları olmayacak mı?
BT şirketleri yavaş yavaş fark ediyor ki ben ekonomik çıkarları haklarla uyumlu hale gelmelidir aksi takdirde ticari stratejileri uzun vadede sürdürülebilir olmayacaktır. Çok uzun süredir Web ve sosyal ağlar, yeni teknolojik çözümlerin genellikle insanların verilerini çalmak, ticari ve bilgi manipülasyonu, zorbalık ve dijital nefret eylemleri için kullanıldığı dijital bir Vahşi Batı oldu. Erdemli olmak isteyen şirketler, çevrimiçi kullanıcıların güvenliğini korumayı öğrenmeli, aksi takdirde Vatandaşları koruyan hükümetler olmak zorunda kalacak.
Yapay zekanın gelecekte her halükarda hayatımızın giderek daha fazla parçası olacağı aşikar. Bir profesör olarak, genç insanların bu aracı anlamalarına yardımcı olmak için benzer bir konunun okul düzeyinde nasıl tanıtılabileceğini düşünüyorsunuz?
Yapay zekanın ilerlemesine ayak uyduracak yönetmelikler, kanunlar ve yönetmeliklerin yanı sıra, çocukların eğitimi ve vatandaş bilincine de şiddetle ihtiyaç var. Okullarımız geri kalıyor. Üretken yapay zeka sistemlerinin kullanımını yasaklamamalı ve hatta çocukların bunları giderek daha sık kullandığını bilmiyormuş gibi davranmamalıyız. Bunun yerine, gerekli ulusal eğitim eylemleri öğretmenlere ve çocuklara AI sistemlerinin ne olduğunu ve nasıl çalıştığını açıklayan.
Özellikle neye ihtiyaç var?
Öğrencilere Bard ve ChatGPT gibi sistemlerin pratik potansiyellerini ve gerçek risklerini gösteren eğitim projelerine ihtiyacımız var. Onlara hem beşeri bilimler hem de bilim konularında nasıl yararlı bir şekilde kullanılabileceğini açıklayın. Sınırlarını ve hatalarını pratik örneklerle gösterin. Kısacası, çalışma ve öğrenmeyi desteklemek için yapay zeka sistemlerinin kullanımını teşvik eden eğitim girişimleri başlatın. çocukların eğitimini güncellemek, kullanıcıdan herhangi bir onay almadan ChatGPT’ye ödevinizi yaptırmamak. O zaman, belki de, ChatGPT tarafından icat edilen ve gerçekte hiçbir mahkeme tarafından verilmemiş olan cezaların davalarını kontrol etme öngörüsüne sahip olmayan ABD’deki bir avukatın başına geldiği gibi, bu sistemin saçmalık önerdiğini keşfetmek için.