삼성 키보드의 AI 글쓰기 도우미 기능을 사용하다가 정말 황당하고 이해하기 어려운 일이 있어서 글 남깁니다.
평소처럼 대화하다가 'ㄹㅇ 나랑 똑같네ㅋㅋ'라는 문장을 입력하고 철자 및 문법을 자동으로 수정해 주는 AI 버튼을 눌렀습니다.(습관이 돼서..) 그런데 갑자기 부적절한 표현이 포함되어 있다는 안내가 뜨더군요.
처음에는 제가 뭔가 잘못 입력했나 싶어서 문장을 다시 확인해 봤는데 아무리 봐도 도대체 어디가 문제인지 모르겠습니다.
'ㄹㅇ'은 인터냇이나 일상적인 대화에서 흔히 사용하는 '레알'의 줄임말이고, '나랑 똑같네'는 상대방의 말이나 행동에 공감할 때 사용하는 표현입니다. 뒤에 붙은 'ㅋㅋ'도 그냥 웃음을 나타내는 흔한 표현일 뿐입니다.
욕설이 있는 것도 아니고, 누군가를 비하하거나 모욕하는 내용도 아닙니다. 특정인을 공격하는 문장도 아니고요. 정말 친구와 대화하면서 충분히 사용할 수 있는 지극히 평범한 문장입니다.
그런데 이런 문장조차 부적절한 표현이라고 판단한다면 대체 어떤 기준으로 정상적인 대화와 부적절한 표현을 구분하고 있는 건가요?
심지어 이런 경우가 한두 번이 아닙니다. 가끔은 분명히 욕설이 아닌 평범한 표현을 입력했는데도 욕설이 포함되어 있다는 식으로 판단하는 경우가 있습니다. 아무리 다시 읽어 봐도 욕설이라고 할 만한 부분이 없는데 욕설 취급을 받으니 정말 황당합니다.
도대체 어떤 기준으로 욕설 여부를 판단하는 건지 모르겠습니다. 일반적인 줄임말이나 평범한 일상 표현까지 욕설 또는 부적절한 표현으로 분류된다면 AI 필터링 기능에 문제가 있는 것 아닌가요?
물론 부적절한 표현이나 실제 욕설 등을 걸러내려는 취지는 충분히 이해합니다. 하지만 그렇다고 해서 정상적인 인터넷 용어나 일상적인 대화까지 무작정 차단하는 것은 분명히 개선이 필요하다고 생각합니다.
무엇보다 가장 답답한 건 정확히 어떤 부분이 문제인지 알려주지도 않는다는 점입니다. 사용자는 그저 부적절한 표현 또는 욕설이 있다는 안내만 보고 넘어가야 하는 건가요? 도대체 어떤 단어가 문제인지 어떤 이유로 그런 판정을 내렸는지조차 알 수가 없습니다.
솔직히 이런 상황을 겪을 때마다 AI 기능을 편리하게 사용하려고 하는 건데 오히려 평범한 문장을 입력하는 것조차 신경 써야 한다는 게 이해되지 않습니다. 정상적인 표현을 사용했는데도 욕설이나 부적절한 표현으로 취급받는 사용자 입장에서는 충분히 억울할 수밖에 없습니다.
삼성 측에 묻고 싶습니다.
1. 'ㄹㅇ 나랑 똑같네ㅋㅋ'라는 문장에서 정확히 어느 부분이 부적절한 표현인가요?
2. 욕설이 전혀 포함되지 않은 일반적인 문장까지 욕설로 판단하는 이유는 무엇인가요?
3. AI 글쓰기 도우미의 부적절한 표현 및 욕설 필터링 기준에 오류가 있는 것은 아닌가요?
단순히 AI가 판단했다는 이유만으로 정상적인 표현까지 부적절하거나 욕설로 취급되는 것은 납득하기 어렵습니다.
AI 기능이 발전하는 것도 좋지만, 적어도 실제 욕설과 평범한 일상 대화 정도는 제대로 구분할 수 있어야 하는 것 아닌가요?
해당 현상을 단순히 사용자 입장에서 표현을 잘못 사용한 것으로 치부하지 마시고 실제 판정 기준과 오탐 가능성을 확인해 주셨으면 합니다.
정상적인 표현을 사용했을 뿐인데 욕설을 사용한 사람처럼 취급받는 상황이 더 이상 발생하지 않도록 개선을 요청합니다.
그 현상의 이미지
답글이나 댓글이 없습니다