OpenAI tarafından geliştirilen ChatGPT, kişisel bir öğretmen gibi birçok soruya doğal yanıtlar verebilen bir dil modelidir. Şirket, bu popüler dil modelini kötüye kullanımlardan korumak amacıyla yeni bir adım atmıştır. ChatGPT ile üretilen metinleri tespit edebilen bir filigran aracı geliştiren OpenAI, özellikle akademik çevreleri ve eğitim kurumlarını memnun edebilir. Öğrencilerin ödevlerini ChatGPT gibi yapay zeka araçlarıyla yapması, akademik dünyada ciddi bir sorun haline gelmiştir. Bu filigran aracı, bu tür durumları tespit ederek akademik dürüstlüğü sağlamaya yardımcı olabilir.
OpenAI henüz bu filigranlama aracını kullanıma sunmadan kararsızdır. Şirket, teknolojinin umut verici olduğunu ancak beraberinde önemli riskler taşıdığını belirtmektedir. Kötü niyetli kişiler tarafından kötüye kullanılma veya İngilizce olmayan dillerde hatalı sonuçlar doğurma potansiyeli, bu riskler arasında yer almaktadır. Sistem, mevcut tespit yöntemlerinden daha farklı ve daha etkili sonuçlar verebileceği belirtilmektedir.
Geliştirilen filigran aracı, sadece ChatGPT ile oluşturulan metinlerde çalışacak şekilde tasarlanmıştır. Yeni teknoloji, ChatGPT’nin seçtiği kelimelerde bazı küçük değişiklikler yapacak ve sonunda bu kelimelere “görünmez bir filigran” ekleyecektir. Bu sayede ChatGPT ile üretilen metinler, farklı araçlar tarafından kolayca tespit edilebilecektir.
OpenAI tarafından geliştirilen bu filigran aracı, akademik dünyada öğrencilerin ödevlerini yapay zeka araçlarıyla yapmasının engellenmesine yardımcı olabilir. Özellikle öğrencilerin ChatGPT gibi dil modellerini kullanarak ödevlerini kopyalayıp yapmaları, eğitim kurumları için ciddi bir sorun oluşturmaktadır. Bu yeni teknoloji sayesinde, akademik dürüstlük ve işbirliği açısından daha sağlam bir temel oluşturulabilir.
