Uzun zamandır müşteri hizmetlerinde sohbet botlarını kullanan tanınmış kargo firması DPD, son periyotta yaşanan bir yapay zeka kriziyle gündeme geldi. Şirketin son güncellemesi sonrası, yapay zeka tabanlı sohbet botunda önemli problemler ortaya çıktı. Bot, bir müşterinin provokatif talebi üzerine beklenmedik bir formda müşteriye hakaretler yağdırıp, kendi firmasını kötülemeye başladı. Bu olayın akabinde, DPD kelam konusu yapay zeka sohbet botunu çabucak devre dışı bıraktı ve yaşanan sorunun kaynağını araştırmaya başladı.
Bir kargo şirketinin yapay zeka sohbet botu müşteriye küfür etti!
Bu cins bir olay, yapay zekanın insan etkileşimi ve lisan anlayışı mevzularında hala birtakım zorluklarla karşı karşıya olduğunu gösteriyor. Yapay zeka sohbet botları, ekseriyetle müşteri sorularını yanıtlamak ve kolay takviye sağlamak için programlanıyor. Lakin, DPD’nin sohbet botunun bu beklenmedik reaksiyonu, bu tıp sistemlerin bazen varsayım edilemez ve istenmeyen sonuçlar doğurabileceğini ortaya koyuyor.
Olay, birebir vakitte yapay zeka etiği ve güvenliği bahislerindeki tartışmaları da alevlendiriyor. Bu çeşit sistemlerin nasıl programlandığı, ne tıp bilgilerle beslendiği ve insan gibisi etkileşimlerde nasıl denetim altında tutulabileceği üzere sorular, yapay zeka topluluğu içinde kıymetli bir sorun haline geliyor.
DPD’nin yaşadığı bu sorun, yapay zeka tabanlı sistemlerin kullanımında dikkatli olunması gerektiğini ve bu sistemlerin daima olarak gözden geçirilmesi ve güncellenmesi gerektiğini de gösteriyor. Şirketin bu sorunu nasıl çözeceği ve bu tıp olayların gelecekte nasıl önlenebileceği konusundaki adımları, yapay zeka alanında misal hizmetler sunan öbür firmalar için de bir örnek teşkil edebilir.