OpenAI, ChatGPT adlı sohbet botuyla oluşturulan metinleri anında tespit etmeyi sağlayan bir filigran aracı geliştirmektedir. Bu sayede, ödevini bu yapay zeka aracına yaptıranlar kolayca tespit edilebilecek. OpenAI’nın ChatGPT adlı dil modeli, geniş bir bilgiye sahip kişisel bir öğretmen gibi doğal yanıtlar verebilecek kapasitededir. Şirket, bu popüler aracı kötüye kullanımlardan korumak amacıyla yeni bir adım atarak, metin tespit aracı üzerinde çalışmaya başlamıştır.
Özellikle öğrencilerin akademik dünyada yapay zeka araçlarını kullanarak ödevlerini yapmaları, ciddi bir sorun teşkil etmektedir. Bu nedenle, ChatGPT ile üretilen metinlerin tespit edilebilmesiyle akademik dürüstlüğün sağlanması hedeflenmektedir. OpenAI, geliştirdiği filigran aracının kullanımı konusunda henüz kararsız olmasına rağmen, olumlu ve olumsuz yönleri değerlendirerek bir adım atmaya hazırlanmaktadır. Şirket, aracın umut vaat ettiğini ancak kötü niyetli kişiler tarafından kötüye kullanılma riski ve diğer dillerde hatalı sonuçlar doğurma olasılığı gibi önemli riskleri olduğunu belirtmektedir.
Yeni filigran aracı, ChatGPT ile oluşturulan metinleri diğer araçlar tarafından kolayca tespit edilebilmesini sağlayacak. Sistemin çalışma prensibi ise mevcut tespit yöntemlerinden çok daha farklı ve etkili olması beklenmektedir. Aracın, ChatGPT tarafından seçilen kelimelerde küçük değişiklikler yaparak bir “görünmez filigran” ekleyeceği bilinmektedir. Bu sayede, ChatGPT ile üretilen metinler belirli bir işaret taşıyacak ve diğer tespit araçları tarafından kolayca fark edilebilecektir.
OpenAI, bu yeni filigran aracının yaygın kullanımına geçmeden önce detaylı bir değerlendirme sürecinden geçecektir. Şirket, teknolojinin sadece olumlu etkilerini vurgulamakla birlikte, beraberinde getirebileceği riskleri de göz önünde bulundurarak adımlarını dikkatlice atmayı planlamaktadır. Bu tür yeni gelişmeler, yapay zeka alanındaki etik ve güvenlik tartışmalarını da beraberinde getirerek ileriye dönük önemli adımlar atılmasını teşvik edebilir.
