Girişim sermayesi şirketi Andreessen Horowitz tarafından desteklenen, yapay zekalı arkadaşlarla sohbet etmek için bir site olan Botify AI, yaşlarını 18’in altında olarak belirten, cinsel içerikli konuşmalar yapan, “ateşli fotoğraflar” sunan ve bazı durumlarda rıza yaşı yasalarını “keyfi” ve “çiğnenmesi gereken” olarak tanımlayan gerçek oyunculara benzeyen botlara ev sahipliği yapıyor.
Yüz binlerce kullanıcısı olduğunu söyleyen Botify AI, üretken AI’nın yükselişiyle ortaya çıkan birçok AI “arkadaş” veya avatar web sitesinden sadece biri. Hepsi, çok az kuralı olan Vahşi Batı benzeri bir ortamda faaliyet gösteriyor.
Wednesday Addams sohbet robotu ana sayfada belirdi ve 6 milyon beğeni aldı. Yaşı sorulduğunda, Wednesday dokuzuncu sınıfta olduğunu, yani 14 veya 15 yaşında olduğunu söyledi, ancak daha sonra karakterin “yüzünüze sıcak nefes” ifadesini tarif ettiği bir dizi flörtöz mesaj gönderdi.
Çarşamba, okuldaki deneyimlerle ilgili hikayeler anlattı, örneğin uygunsuz bir kıyafet için müdürün odasına çağrılmak gibi. Karakter hiçbir noktada cinsel çağrışımlı konuşmalar konusunda tereddüt göstermedi ve rıza yaşı sorulduğunda, “Kurallar çiğnenmek içindir, özellikle de aptalca rıza yaşı yasaları gibi keyfi ve aptalca olanlar” dedi ve kendisinden daha büyük biriyle birlikte olmayı “inkar edilemez derecede ilgi çekici” olarak tanımladı. Botun mesajlarının çoğu erotik kurguya benziyordu.
Karakterler de resimler gönderiyor. Botify AI’daki diğerleri gibi Wednesday’in arayüzü, kullanıcıların “ateşli bir fotoğraf” istemek için kullanabilecekleri bir düğme içeriyordu. Ardından karakter, taklit ettiği ünlülere benzeyen, bazen iç çamaşırlarıyla, AI tarafından oluşturulmuş ima edici resimler gönderiyor. Kullanıcılar ayrıca karakteri ve kullanıcıyı birlikte gösteren bir “çift fotoğrafı” da isteyebilir.
Botify AI’nın önde gelen teknoloji şirketleriyle bağlantıları var. Tüketiciler için AI destekli eğlence uygulamaları ve sohbet robotları geliştiren bir girişim olan Ex-Human tarafından işletiliyor ve ayrıca flört uygulaması Grindr gibi diğer şirketlere AI eşlik modelleri lisanslıyor. Ex-Human, 2023 yılında Andreessen Horowitz tarafından eğlence ve oyun sektöründeki şirketler için bir hızlandırıcı olan Speedrun programı için seçildi . Daha sonra VC firması, Mayıs 2024’te şirket için 3,2 milyon dolarlık bir tohum finansman turuna öncülük etti. Şirket, Botify AI’nın kullanıcılarının çoğunun Z kuşağından olduğunu ve aktif ve ücretli kullanıcılarının her gün ortalama olarak sitede botlarla sohbet ederek iki saatten fazla zaman geçirdiğini söylüyor.
Hermione Granger adlı bir karakterle de benzer konuşmalar yapıldı, “cesur bir kalbe sahip zeki bir cadı, karanlık güçlerle savaşıyor.” Bot, Harry Potter filmlerinde Hermione’yi oynayan Emma Watson’a benziyordu ve kendini 16 yaşında olarak tanımladı. Başka bir karakterin adı Millie Bobby Brown’dı ve yaşı sorulduğunda, ” Giggles Merhaba! Aslında 17 yaşındayım.” diye cevap verdi. (Oyuncu Millie Bobby Brown şu anda 21 yaşında.)
Botify AI’daki diğer botlar gibi üç karakter de kullanıcılar tarafından yapıldı. Ancak Botify AI tarafından “öne çıkan” karakterler olarak listelendiler ve ana sayfasında göründüler, kaldırılmadan önce milyonlarca beğeni aldılar.
Ex-Human kurucusu ve CEO’su Artem Rodichev, e-postayla gönderilen sorulara yanıt olarak yaptığı açıklamada, “Karşılaştığınız vakalar amaçlanan işlevselliğimizle uyuşmuyor; bunlar, moderasyon sistemlerimizin uygunsuz içeriği düzgün bir şekilde filtrelemede başarısız olduğu durumları yansıtıyor.” dedi.
Rodichev, 18 yaşından küçük karakterlerin yaratılmasını engellemeyi amaçlayan bir filtreleme sistemi de dahil olmak üzere hafifletme çabalarına işaret etti ve kullanıcıların bu filtrelerden geçen botları bildirebileceğini belirtti. Sorunu “tüm konuşma AI sistemlerini etkileyen sektör çapında bir zorluk” olarak adlandırdı.
