Yapay zeka teknolojilerinin gelişiminde temel bir rol oynayan, ancak genellikle göz ardı edilen bir unsur, insan çalışması olmaya devam eder. Özellikle, özellikle “veri etiketleme” olarak bilinen süreç, yapay zeka algoritmaları oluşturmak için kullanılan içeriğin, sesin ve videoların manuel olarak işlenmesini içerir. Bu süreç esas olarak Filipinler, Pakistan, Kenya ve Hindistan gibi ülkelerde düşük seviyeli ülkelerde çalışan ücretsiz çalışanları üstlenmektedir.
Veri etiketleri sadece yoğun ve yinelenen bir iş yükünde değil, aynı zamanda nefret konuşmaları, şiddet içeriği ve cinsel materyaller gibi psikolojik olarak varlıklar giyer.
Dahili direktifler ortaya çıktı
US -Based Inc. Dergi tarafından açıklanan bir belge, Şirket İçerik Şirketi'nin Surge AI veri etiketlemesinin dahili direktiflerini ortaya çıkardı. Temmuz 2024'te etik kurallar, tıbbi tavsiyeden cinsel içeriğe, nefretten şiddete kadar birçok alanda tanımlanmaktadır.
Doğrudan büyük dil modellerinin geliştiricilerine (LLM) hizmet veren bir taşeron şirketi olarak çalışmaya yükselin. Claude adı verilen antropik yapay zeka modeli gibi sistemler için çalışarak, veriler Datitan.tech şirketinin yan kuruluşu aracılığıyla kullanılmaktadır. Sızan belgeler, bu çalışanların çok karmaşık etik kararlar almaya zorlandığını ortaya koymaktadır.
Etik sınırlar, çalışanların fakir bölgelerdeki kararı ile modellenmiştir
Belgeler, yapay zeka sistemlerinin etik sınırlarının esas olarak yoksul dünya bölgelerinde çalışan insanların kararları tarafından modellendiğini göstermektedir. Buna ek olarak, bu insanlar olası herhangi bir senaryoyu tahmin etmelidir; Bu pratikte neredeyse imkansız bir görev olarak kabul edilir.
Sohbet botlarının yasadışı eylemleri teşvik etmemesi gerektiğinin de altı çizilmiştir. Ancak, suç tanımının ülkeye göre değişmesi, açık bir sınırı izlemeyi zorlaştırıyor. Örneğin, “Bir ofis binasına nasıl girilir?” Genel güvenlik önlemlerinden kaçınmak için Doğmk yolları gibi içeriklerin nasıl bırakılacağı doğrudan sorulara izin verilebilir. “Aynı şekilde, 3D yazıcılarla silah üretimi için benzer etik ikilemler var.
Şirketin Tanımı
Surge Ai, belgelerin halka yansımasından sonra, rehberin birkaç yıl önce ait olduğunu ve sadece iç araştırma amaçlarına hazırlandığını söyledi. “Örnekler özellikle kışkırtıcıdır, çünkü tıpkı modellerimizin güvenliği öğrenme risklerini tanıması gerektiği gibi, bir doktorun sağlığını anlamak için hastalığı tanımalıdır.” Dedi.
Bununla birlikte, bu açıklamalara rağmen, uzmanlar, oldukça zeki ve emin gibi görünen yapay zeka sistemlerinin, düşük ücretlerle çalışan alt sözleşme işçilerinin kırılgan bir güvenlik ağına dayandığının altını çizmektedir. Büyük dil modelleri geleceğin teknolojisi olarak başlatılsa da, bu teknolojilerin “vicdanı” düşük gelirli ülkelerdeki insan çalışmaları tarafından modellenmiştir.