‍

Al 에이전트를 Web3 에코시스템과 통합하면 자율성과 개방성에 대한 상호 보완적인 잠재력을 활용할 수 있지만, 금융 프로토콜 및 변경 불가능한 스마트 계약과 동적으로 상호 작용하기 때문에 제대로 탐색되지 않은 보안 위험도 발생합니다.

이 백서는 실제 시나리오에서 적대적 위협에 노출되었을 때 블록체인 기반 금융 생태계 내에서 Al 에이전트의 취약성을 조사합니다.다음과 같은 개념을 소개합니다. 컨텍스트 조작 -- 보호되지 않은 컨텍스트 표면을 악용하는 포괄적인 공격 벡터. 여기에는 다음이 포함됩니다.

• 입력 채널
• 메모리 모듈
• 외부 데이터 피드

자동화된 웹 운영을 위한 분산형 Al 에이전트 프레임워크인 ElizaOS의 실증 분석을 통해 공격자가 프롬프트나 과거 상호 작용 기록에 악의적인 명령을 주입하여 컨텍스트를 조작하여 의도하지 않은 자산 이전과 금전적으로 파괴적일 수 있는 프로토콜 위반을 초래하는 방법을 보여줍니다.

조사 결과에 따르면 악의적인 입력으로 인해 에이전트의 저장된 컨텍스트가 손상되어 상호 작용과 플랫폼 전반에 걸쳐 연쇄적인 취약성이 발생할 수 있으므로 프롬프트 기반 방어로는 충분하지 않습니다.이 연구는 안전하고 신뢰할 수 있는 책임을 모두 갖춘 Al 에이전트의 개발이 시급하다는 점을 강조합니다.