[인터넷보호나라 KrCERT 보안공지] 생성형 AI 사용 관련 주의 보안권고
2025년 02월 07일
□ 개요
o 생성형 AI(Generative AI) 서비스가 전세계적으로 확산됨에 따라 국내 일반 사용자 및 기업이 올바르게 활용할 수 있도록 권고
|
< (참고) 생성형 AI > o 명령어를 통해 사용자의 의도를 이해하고 주어진 데이터로 스스로 학습하여 텍스트, 이미지, 오디오, 비디오 등 새로운 콘텐츠를 만들어낼 수 있도록 학습
o 또한, 악의적인 목적으로 사용될 수 있는 악성코드, 피싱메일, 해킹 공격툴 등도 생성될 수 있고, 이를 악용하여 개인정보 및 기업정보 탈취 외에도 금전적 피해도 우려
|
□ 보안권고
<< 일반사용자 >>
o AI 서비스에 주민등록번호, 전화번호, 주소 및 금융 정보 등 개인정보를 입력하지 않도록 주의
o AI가 생성한 정보는 오류가 포함될 수 있으므로 사실 여부를 반드시 검증(가짜뉴스, 딥페이크 영상 등)
o 출처가 불분명한 링크나 이메일을 클릭하기 전에 반드시 신뢰할 수 있는 발신자인지 확인(AI를 활용한 피싱 공격)
o AI를 활용한 악성코드 제작이 증가하고 있으며, AI 기반 코드 생성기 사용시 보안점검 필요(보안 솔루션을 활용하여 검사 후 실행)
<< 기업대상 >>
o AI 서비스에 회사 내부 문서, 소스 코드, 고객 정보 등 기밀 데이터를 입력하지 않도록 정책 수립
o AI 서비스 사용 로그를 기록하고, 내부망에서의 무단 사용을 제한하는 접근 통제 정책을 적용
o 콘텐츠에 대한 출처 검증 및 검수 프로세스를 강화(허위 정보 등은 기업 신뢰도에 악영향)
o AI를 이용한 사이버 공격(자동화된 해킹, 사회 공학 공격 등)에 대한 대응 계획 수립
□ 침해사고 신고
o ‘KISA 인터넷 보호나라&KrCERT’ 홈페이지(www.boho.or.kr)→상담 및 신고→해킹사고 신고
□ 기타 문의사항
o 한국인터넷진흥원 사이버민원센터: 국번없이 118
□ 작성 : 위협대응단 상황관제팀
<구체적인 내용이나 첨부파일은 아래 [인터넷보호나라 KrCERT 보안공지] 사이트의 글에서 확인하시기 바랍니다.>
About The Author
