AI 음성인식 시대, 새로운 음성 프라이버시 보호 기술을 개발하다

AI 음성인식 시대, 새로운 음성 프라이버시 보호 기술을 개발하다

최근 AI 기술의 발전으로 음성을 텍스트로 변환하는 음성인식(STT, Speech-To-Text) 기술의 성능이 크게 향상되었습니다. 스마트폰, 회의록 자동 작성, 콜센터 분석 등 다양한 분야에서 활용되고 있으며, 누구나 손쉽게 음성을 문자로 변환할 수 있는 시대가 되었습니다.

하지만 기술의 발전과 함께 음성 정보 유출에 대한 우려도 증가하고 있습니다.

특히 원격 음성 수집 장비, 녹음 장치, AI 기반 음성 분석 기술이 발전하면서 개인 및 기업의 음성 정보 보호에 대한 관심이 높아지고 있습니다.

음성은 들리지만 AI는 이해하지 못한다

이번에 개발한 기술의 목표는 단순했습니다.

"사람 간의 대화는 유지하면서 AI 음성인식 시스템은 내용을 해석하지 못하게 만들 수 있을까?"

이를 위해 실시간 음성 신호에 특수 변조 알고리즘을 적용하는 방식을 연구했습니다.

개발 과정에서 가장 중요하게 고려한 사항은 다음과 같습니다.

• 저가 MCU에서도 구현 가능할 것
• 연산량이 적을 것
• 실시간 처리 가능할 것
• 배터리 구동 장치에 적용 가능할 것
• 음성인식 AI의 성능을 크게 저하시킬 것

실제 AI 음성인식 테스트 결과

개발된 알고리즘을 이용하여 변조된 음성을 여러 음성인식 서비스에서 테스트했습니다.

실험 결과, 변조된 음성은 사람의 귀에는 음성으로 인식되지만 AI 음성인식 시스템에서는 정상적인 문장으로 변환되지 않았습니다.

일반적인 음성인식 엔진은 다음 과정을 거칩니다.

1. 음성 특징 추출
2. 음소(Phoneme) 분석
3. 단어 인식
4. 문장 생성

이번 알고리즘은 이러한 특징 추출 단계에서 AI가 사용하는 음성 패턴을 효과적으로 교란하도록 설계되었습니다.

그 결과 테스트 환경에서는 의미 있는 텍스트가 생성되지 않았으며, 음성인식 정확도가 크게 감소하는 현상을 확인할 수 있었습니다.

가성비 중심의 설계

많은 음성 처리 기술은 고성능 DSP나 고사양 CPU를 필요로 합니다.

반면 본 기술은 다음과 같은 특징을 갖습니다.

• 낮은 CPU 사용률
• 적은 메모리 사용량
• 저전력 동작
• 저가 하드웨어 적용 가능
• 실시간 처리 가능

따라서 별도의 고가 장비 없이도 다양한 임베디드 시스템에 적용할 수 있습니다.

활용 가능 분야

본 기술은 다양한 음성 보안 분야에 적용될 수 있습니다.

기업 회의 보안

중요한 회의 내용이 외부 녹음 장치나 AI 분석 시스템에 의해 자동 기록되는 것을 방지하는 데 활용 가능합니다.

개인정보 보호

개인 대화나 상담 내용을 자동 음성 분석 시스템으로부터 보호할 수 있습니다.

보안 장비

음성 프라이버시 보호 장치, 회의실 보안 장비, 정보보호 솔루션 등에 적용할 수 있습니다.

연구 및 학술 분야

AI 음성인식 시스템의 강건성(Robustness)을 평가하기 위한 연구 도구로도 활용 가능합니다.

앞으로의 계획

현재는 기본 알고리즘 구현 및 AI 음성인식 저해 성능 검증을 완료한 상태입니다.

향후에는 다음과 같은 연구를 진행할 예정입니다.

• 다양한 AI 음성인식 엔진 대상 성능 평가
• 임베디드 MCU 최적화
• 초저전력 구현
• 실시간 양방향 통신 적용
• 상용화 가능한 제품 형태 검토

마무리

AI 기술은 우리 삶을 편리하게 만들어 주지만, 동시에 개인정보와 프라이버시 보호라는 새로운 과제를 제시하고 있습니다.

이번에 개발한 음성 변조 기술은 음성 프라이버시 보호를 위한 하나의 새로운 접근 방법입니다.

앞으로도 저비용·고효율 음성 보안 기술 개발을 통해 누구나 쉽게 사용할 수 있는 실용적인 솔루션을 만들어 나갈 계획입니다.

※ 본 기술의 성능은 사용 환경, 음성인식 엔진 종류, 녹음 조건 등에 따라 달라질 수 있으며, 현재도 지속적으로 성능 개선을 진행하고 있습니다.

 

 

원본 파일은 유명인의 공개방송이라서, 여기에 올리지 못합니다.

원본은 인터넷 AI로 음성을 택스트로 변환하는 기능으로 거의 100%인식이 되었습니다.

 

첨부파일은 변조된 음성입니다.

첨부파일은 인터넷 AI로 음성을 택스트로 변환하는 기능으로 인식율이 0%입니다.(매우 훌륭함)

OUT_mixed.mp3

0.37MB

 

 

 

 

 

 

 

음성인식에 실패하였습니다.(성공)

https://proactor.ai/features/ko/audio-to-text-converter/

 

 

 

 

 

 

 

 

 

 

 

 

음성인식에 실패했습니다(성공)
https://app.notta.ai/7465443195227492352/dashboard/49e13ae7-b7cb-4ae4-a934-c83465d0ed9b#detail