본 연구는 동일 주파수 대역에서 송신과 수신을 동시에 수행하는 인밴드 풀듀플렉스(In-band Full-Duplex) 시스템의 자기 간섭(Self-Interference, SI) 제거 기술 개발에 중점을 둔다. 복잡하고 시변하는 자기 간섭 채널 특성 및 다양한 전송 파형과 변조 방식에 대응하기 위해, 인공지능(AI) 기반의 비선형 연쇄 간섭 제거(Non-linear Successive Interference Cancellation, SIC) 기술을 제안한다. 이를 통해 자기 간섭을 효과적으로 제거하여 풀듀플렉스 시스템의 수신 성능을 극대화하고, 차세대 통합 감지 및 통신(ISAC)과 6G 이동통신 시스템의 핵심 신호 처리 기술을 확보하는 것을 목표로 한다.