AI 위험을
탐지 및 제거
AI가 하지 말아야 할 것을 가르치는 가장 효과적인 방법을 연구하고 개발합니다
우리의 미션
우리는 사회적 시스템을 지탱하는 AI의 위험을 감지하고, 표적화하며, 제거하는 데 집중합니다. 특히 의료, 금융, 로봇, Computer-Using Agent 등 사람들에게 큰 영향을 줄 수 있는 AI에 집중하고 있습니다. AI의 최전선에서 그 위험성을 드러내고 제거하며, AI가 인간에게 해를 끼칠 수 없도록 방어 시스템을 구축합니다.
선도적인 AI 도메인에 대한 공격 기술 연구
새로운 AI 위험성에도 저항할 수 있는 방어 시스템 연구 개발
AI 안전 및 보안 표준 발전
Our History
2025 Q1
2025 Q1
LG U+ Shift 오픈이노베이션 용역 계약 체결 (AI Red & Guard)
LG CNS 데이터사업부 AI 레드팀 프로젝트 착수
비전언어모델 안전성 연구 논문 ICML 2025 Accepted컴퓨터 사용 에이전트 안전성 논문 ACL 2025 Industry Track AcceptedKB 국민카드 레드팀·가드레일 프로젝트 착수LG CNS / 우리은행 자동화 레드팀·가드레일 프로젝트 착수
AIM Supervisor가 OWASP GenAI Project 솔루션 목록에 공식 등재2024 Q4
2024 Q4
KB 국민카드 오픈이노베이션 프로그램 (Future 9) 선정
NH 오픈비즈니스허브 선정
KT 오픈이노베이션 프로그램 선정
LG U+ 오픈이노베이션 프로그램 선정
LG SUPERSTART 오픈이노베이션 프로그램 선정
크라우드웍스와 기술협력 및 사업지원을 위한 MOU 체결
KAIST E*5 창업경진대회 최종 수상
2024 Q3
2024 Q3
SKT와 LLM 서비스 안전성 평가 진행
메타 APAC AI 액셀러레이터 한국 대표로 결선 진출 (Singapore)메타 라마 임팩트 이노베이션 어워드 수상 (New York Concordia Summit)KT와 AI 모델 보안 및 안전성 검증 시스템 공동 연구를 위한 MOU 체결Anthropic 공식 모델 안전성 버그 바운티 프로그램 선정
매쉬업벤처스로부터 시드 라운드 투자 유치SKT x 하나은행 AI Lab for Startups 선정2024 Q2
2024 Q2
2024 Q1
2024 Q1
NAVER D2 Startup Factory 선정
