구글 검색에서 욕설이 포함된 검색어를 입력하면 AI 요약이 표시되지 않는 것으로 확인됐다.

지난달 31일(현지시간) 구글 검색에서 AI 요약을 비활성화할 수 있는 새로운 방법이 발견됐다.

방법은 간단하다. ‘지구의 둘레는 몇 km인가?’를 검색하면 검색창 아래에 AI가 생성한 요약문이 나타나지만, 욕설을 포함해 검색하면 AI 요약 없이 일반적인 결과만 표시된다.

구글의 AI 요약 서비스는 정확성 논란이 꾸준히 제기돼 왔다.

서비스 도입 초기에는 ‘접착제로 피자의 치즈가 떨어지는 것을 막을 수 있다’거나 ‘자갈을 먹으면 장 건강이 개선된다’는 등의 잘못된 정보를 제공해 사용자들의 불만을 샀다.

이번에 발견된 AI 요약 비활성화 현상은 구글의 AI 모델인 제미나이가 PG 등급을 유지하도록 설계된 것과 관련이 있는 것으로 분석된다.

욕설을 반복하지 않도록 훈련된 제미나이는 검색어에 욕설이 포함되면 AI 요약 기능을 자동으로 비활성화한다.

한편 구글은 2023년 5월 미국에서 AI 기반 검색 요약 기능을 처음 도입한 이후 2024년 8월 영국, 인도, 일본 등으로 서비스를 확대했다.

같은 해 10월에는 캐나다, 호주, 뉴질랜드 등 100개 이상의 국가로 확장했으며 한국에서는 2024년 12월부터 해당 기능이 제공됐다.