AI SAFETY & TRUSTWORTHY AGENTS

Yunseok Lee 이윤석

동국대학교 컴퓨터AI학과 인공지능전공 석사과정
DAMILAB · Data Analysis & Machine Intelligence Lab

M.S. Student, Department of Computer Science and AI
DAMILAB · Dongguk University

Email GitHub LinkedIn Google Scholar

Yunseok Lee
서울, 대한민국Seoul, South Korea

소개About

안녕하세요. 저는 동국대학교 컴퓨터AI학과 인공지능전공 석사과정에 재학 중이며, DAMILAB에서 안전하고 신뢰할 수 있는 AI를 연구하고 있습니다. 현재 AI Safety와 LLM Agent를 중심으로, 언어 모델이 외부 지식과 도구를 사용할 때 발생하는 보안·신뢰성 문제를 살펴봅니다.

제 연구는 탈옥 공격, 간접 프롬프트 주입, 적대적 강건성과 안전성 평가를 아우릅니다. 연구를 관통하는 질문은 하나입니다. 실제 환경에서 작동하는 AI의 행동을 어떻게 검증하고, 사용자가 더 신뢰할 수 있는 시스템으로 만들 수 있을까? 이 관점을 위성 기후자료 초해상화와 같은 실세계 머신러닝 문제에도 확장하고 있습니다.

Hello! I am an M.S. student in AI at Dongguk University and a researcher at DAMILAB, where I study safe and trustworthy AI. My current work focuses on AI Safety and LLM Agents, especially the security and reliability challenges that arise when language models use external knowledge and tools.

My research spans jailbreak attacks, indirect prompt injection, adversarial robustness, and safety evaluation. A single question connects this work: how can we verify the behavior of AI systems operating in real-world environments and make them more trustworthy to their users? I also extend this perspective to real-world machine learning tasks such as satellite climate-data super-resolution.

소식News

논문Publications

* Equal contribution (Co-1st Authors)

PLCWorld Figure 3: Motion Control and Material Handling executions across Easy, Medium, and Hard tasks PLCWorld · 프로젝트 보기View project
Preprint · 2026Co-1st Author

PLCWorld: Benchmarking LLM-Generated PLC Programs in Closed-Loop Plant Simulation

Yunji Kim*, Yunseok Lee*, Hyunwoo Seo, Jaerim Choi, Woojin Lee

arXiv preprint, 2026

100개 과제의 폐루프 플랜트 시뮬레이션에서 LLM이 생성한 PLC 프로그램을 실행하고, 작업 성공과 안전 위반을 별도로 평가합니다.

Evaluating LLM-generated PLC programs through closed-loop plant simulation across 100 tasks, measuring task success and safety violations separately.

ICoA: overt and covert attacks compared through agent actions and user-visible responses ICoA · 프로젝트 보기View project
EMNLP 2026 · OralCo-1st Author

Will the User Ever Know? Covert Indirect Prompt Injection Attacks on Tool-Using LLM Agents

Yunseok Lee*, Yunji Kim*, Woojin Lee

EMNLP 2026 Main Conference (Oral)

도구 사용 Agent의 공격 성공과 사용자에게 드러나는 정도를 구분하여 은밀한 간접 프롬프트 주입을 평가합니다.

Evaluating covert indirect prompt injection by separating attack success from what a tool-using agent reveals to its user.

Cropped preview of the ICML 2026 FAGEN poster: What Did You Do Behind My Back?! FAGEN · 포스터 보기 (PDF)View poster (PDF)
ICML 2026 · WorkshopCo-1st Author

What Did You Do Behind My Back?! Covert Indirect Prompt Injection on Tool-Using LLM Agents

Yunseok Lee*, Yunji Kim*, Woojin Lee

ICML 2026 Workshop on Failure Modes of Agentic AI (FAGEN)

사용자가 알아차리기 어려운 도구 사용 LLM Agent의 간접 프롬프트 주입 공격을 연구합니다.

Studying indirect prompt injection attacks on tool-using LLM agents that can go unnoticed by users.

SlotGCG versus GCG: selecting vulnerable positions instead of always using the suffix SlotGCG · 논문 보기Read paper
ICLR 2026공저자Co-author

SlotGCG: Exploiting the Positional Vulnerability in LLMs for Jailbreak Attacks

Seungwon Jeong, Jiwoo Jeong, Hyeonjin Kim, Yunseok Lee, Woojin Lee

The Fourteenth International Conference on Learning Representations (ICLR), 2026

프롬프트 내부의 위치별 취약성을 분석하고, 취약한 위치에 공격 토큰을 배치하는 탈옥 방법을 제안합니다.

Analyzing positional vulnerabilities inside prompts to place adversarial tokens at vulnerable slots.

Cropped preview of the golf swing analysis framework showing club and body keypoint extraction 골프 스윙 · 논문 보기 (PDF)Golf swing · Read paper (PDF)
Applied Sciences 2026공저자Co-author

Explainable Graph-Based Golf Swing Analysis Integrating Club and Body Keypoints for Ball Flight Outcome Prediction

Seunghyeon Jung, Minseok Kim, Hyeonjin Kim, Seungwon Jeong, Yunseok Lee, Yunji Kim, Hyunse Lee, Seoyoung Hong, Gyumin Choi, Jaerim Choi, Woojin Lee

Applied Sciences, 16(8), 3813, 2026

클럽과 신체 키포인트를 통합한 그래프 신경망으로 공의 비행 결과를 예측하고, Integrated Gradients로 스윙 단계별 주요 키포인트의 기여도를 분석합니다.

Predicting ball flight outcomes from club and body keypoints with graph neural networks, and interpreting keypoint contributions across swing phases using Integrated Gradients.

연구 과제 및 프로젝트Research & Projects

연구 과제Research Projects

DAMILAB multilingual LLM jailbreak research framework across red, blue, and purple teams
다국어 LLM 탈옥 취약점 탐지·방어 연구Multilingual LLM Jailbreak Vulnerability Detection and Defense
한국연구재단 우수신진연구 사업 · 참여연구원
National Research Foundation of Korea, Excellent Young Researchers Program · Participating researcher

레드팀·블루팀을 연결하는 퍼플팀 체계에서 다국어 데이터, 탈옥 공격, 문맥 기반 가드레일을 연구. SlotGCG(ICLR 2026)의 VSS 실험·평가에 기여했으며, 도구 사용 LLM Agent의 안전성으로 발전시킨 후속 연구는 Co-1st Author로 참여한 EMNLP 2026 메인 컨퍼런스 Oral 논문으로 이어짐.

Research on multilingual safety data, jailbreak attacks, and context-aware guardrails through a purple-team framework connecting red and blue teams. Contributed to VSS experiments and evaluation for SlotGCG (ICLR 2026); participated as a Co-1st Author in follow-up research on tool-using agent safety, selected for an oral presentation at the EMNLP 2026 Main Conference.

연구 내용과 기여Research & contributions
DAMILAB all-sky climate data super-resolution and ground-observation calibration workflow
전천(All-sky) 기후자료 산출 및 초해상화 인공지능 모델 개발AI Models for All-Sky Climate Data Generation and Super-Resolution
한국기상산업기술원(기상청) · 참여연구원
Korea Meteorological Institute (KMI) / KMA · Participating researcher

GK2A·GK2B 위성 자료를 결합해 전천 기후자료를 250m로 초해상화하고, 결측 보간과 지상 관측 기반 보정을 수행. 담당 세부 연구에서 40만 건 이상의 데이터 전처리 및 차이학습 구조 제안에 기여하고 2km → 250m 해상도 향상과 1차년도 RMSE 3K 이하 목표를 달성.

Combines GK2A/GK2B satellite data for 250m all-sky climate-data super-resolution, missing-value interpolation, and ground-observation calibration. Contributed preprocessing of 400,000+ records and the calibration design; achieved 2km → 250m resolution and the year-one RMSE target of ≤3K.

연구 내용과 기여Research & contributions

산학·개발 프로젝트Industry & Development Projects

V-ART virtual museum interface showing artists and artworks
가상현실 크로스플랫폼 미술관 V-ARTV-ART: Cross-Platform Virtual Reality Art Museum
동국대학교 종합설계 프로젝트 / ㈜요요인터렉티브 · 데이터베이스 구축 및 서버 개발
Dongguk University capstone / YOYO Interactive · Database and server development

작품 이미지·메타데이터를 벡터화하고, Semantic Search와 LLM 기반 설명 생성을 연결한 AI 도슨트 구현. VR 클라이언트와 AI 서버 간 응답 지연을 고려해 RAG 데이터베이스를 구축한 10개월 산학 프로젝트.

Built an AI docent using artwork image/metadata embeddings, semantic retrieval, and LLM-generated explanations. Developed a RAG database with VR client–AI server latency in mind during a ten-month industry–university project.

프로젝트 자세히Project details
E-N-C campus safety system connecting IoT, Wi-Fi, user reports, and monitoring
‘루크온’ E-N-C 기반 위험 대응 및 안심 캠퍼스 구축 시스템E-N-C Campus Risk Response and Safety System
동국대학교 AI융합대학 해커톤 ICONICTHON(아코톤) · 인프라 구축 및 프론트엔드 개발
ICONICTHON Hackathon, College of AI Convergence, Dongguk University · Infrastructure and frontend development

IoT·Wi-Fi·사용자 참여 데이터를 통합하여 실시간 밀집도 분석, 위험 구역 탐지, 모바일 신고 기능을 구현. 실제 캠퍼스 테스트베드 데이터를 활용했으며 2024년 해커톤 ICONICTHON(아코톤) 대상과 상금 100만 원 수상.

Integrated IoT, Wi-Fi, and user-submitted data for crowd-density analysis, risk detection, and mobile incident reporting. Used real campus testbed data and received the ICONICTHON 2024 Hackathon Grand Prize with a KRW 1 million cash prize.

프로젝트 자세히Project details
Safe Companion mobile home screen for directions and nearby information Guardian notification generated after a risk report
시각장애인을 위한 보안관 안심 동행 및 장애인 편의시설 안내서비스Safe Companion and Accessible Facility Guide for People with Visual Impairments
미래내일 일경험 사업(고용노동부) / ㈜씨티아이앤씨 · 디자인 및 프론트엔드 개발
Ministry of Employment and Labor work experience program / 씨티아이앤씨 · Design and frontend development

공공데이터와 GPS를 결합한 실시간 위험 구역 알림 및 이동 지원 서비스. TTS와 온디바이스 음성인식을 연결해 음성으로 조작 가능한 사용자 화면을 구현.

Combined public data and GPS for context-aware risk alerts and mobility assistance. Implemented voice-operated interfaces using text-to-speech and on-device speech recognition.

프로젝트 자세히Project details

수상 및 장학Awards & Scholarships

2026 AI서울테크연구지원사업 선정2026 AI Seoul Tech Research Scholarship Recipient
서울미래인재재단 · AI 분야 석사과정 연구 지원, 총 2,000만 원.
Seoul Future Foundation · Graduate research support in AI, with a total award of KRW 20 million.
2024년 동국대학교 AI융합대학 해커톤 ICONICTHON(아코톤) 대상Grand Prize, ICONICTHON 2024 Hackathon, College of AI Convergence, Dongguk University
‘루크온’ E-N-C 기반 위험 대응 및 안심 캠퍼스 구축 시스템으로 수상. 상금 100만 원. 인프라 구축 및 프론트엔드 개발 담당.
Awarded for the E-N-C campus risk response and safety system. KRW 1 million cash prize. Contributed infrastructure setup and frontend development.

학력Education

동국대학교Dongguk University, Seoul, Korea
컴퓨터AI학과 인공지능전공 석사과정
M.S. in AI, Department of Computer Science & AI
동국대학교Dongguk University, Seoul, Korea
컴퓨터공학과 학사
B.S. in Computer Science

경력Experience

DAMILAB, 동국대학교, Dongguk University
대학원 연구원
Graduate Researcher
DAMILAB, 동국대학교, Dongguk University
학부 연구생
Undergraduate Researcher

연락처Contact

연구 협업이나 논의는 언제든 환영합니다. 이메일로 편하게 연락 주세요.

I am always open to research collaborations and discussions. Feel free to reach out.

이메일Email: yslee0005@dgu.ac.kr

사무실: 서울특별시 중구 필동로1길 30
동국대학교 신공학관 5112호
Room 5112, New Engineering Building, Dongguk University, Seoul 04620, Korea

Office: Room 5112, New Engineering Building,
Dongguk University, 30 Pildong-ro 1-gil, Jung-gu, Seoul 04620, Republic of Korea
서울특별시 중구 필동로1길 30 동국대학교 신공학관 5112호

GitHub LinkedIn Instagram