Năm 1947, ông trở về Sài Gòn để chăm sóc thân phụ đang bệnh nặng. Tại đây, ông tổ chức các cuộc biểu tình của sinh viên Sài Gòn, đầu tiên là chống Pháp rồi sau chống Mỹ . Ông làm thư ký cho công ty dầu lửa Caltex cho đến năm 1950.

Năm 1950, ông vào làm ở Sở thuếquan Sài Gòn. Thực chất lúc này ông được Việt Minh giao nhiệm vụ tìm hiểu tình hình vận chuyển hàng hóa, khí tài quân sự và quân đội từ Pháp sang Việt Nam và từ Việt Nam về Pháp.

Năm 1952, ông ra Chiến khu D và được bác sĩ Phạm Ngọc Thạch - ủy viên Ủy ban hành chánh kháng chiến Nam Bộ - giao nhiệm vụ tình báo chiến lược. Trở về Sài Gòn ông đổi tên thành Phạm Xuân Ẩn

Năm 1953 tại rạch Cái Bát, Cà Mau trong rừng U Minh, dưới sự chủ tọa của Lê Đức Thọ (khi đó đang lãnh đạo phong trào kháng chiến chống Pháp tại miền Nam), Phạm Xuân Ẩn được chính thứ c kết nạp vào Đảng Cộng sản Việt Nam.

Năm 1954 Phạm Xuân Ẩn bị gọi nhập ngũvà được trưng dụng ngay làm bí thư phòng Chiến tranh tâm lý trong Bộ Tổng hành dinh quân đội Liên hiệp Pháp tại Camp Aux Mares (thành Ô Ma). Chính tại đây, ông đã quen biết với Đại tá Edward Lansdale, người chỉ huy CIA tại Đông Dương cũng là trưởng phái đoàn viện trợ quân sự Mỹ (US.MAAG) ở Sài Gòn.

Năm 1955 theo đề nghị của phái Bộ cố vấn quân sự Mỹ (lúc này đã chính thứ c thay Pháp đứng ra huấn luyện và xây dựng Quân lực Việt Nam Cộng hòa), Phạm Xuân Ẩn tham gia soạn thảo các tài liệu về tham mưu, tổ chức, tác chiến, huấn luyện, hậu cần cho quân đội. Đặc biệt ông cũng tham gia thành lập Bộ khung của 6 sư đoàn Bộ binh đầu tiên của Quân lực Việt Nam Cộng hòa mà nòng cốt là sĩ quan, hạ sĩ quan và binh lính người Việt trong quân đội liên hiệp Pháp trước đây.

Phạm Xuân Ẩn còn được giao nhiệm vụ hợp tác với Mỹ để chọ n lựa những sĩ quan trẻ có triển vọng đưa sang Mỹ đào tạo (trong số này có Nguyễn Văn Thiệu, sau này trở thành Tổng thống Việt Nam Cộng hoà).

Trong công tác tình báo, để có thể đi khắp nơi và tiếp cận với những nhân vật có quyền lực nhất, tháng 10 năm 1957, theo sự chỉ đạo của Mai Chí Thọ và Trần Quốc Hương (Mười Hương) Phạm Xuân Ẩn qua Mỹ học ngành báo chí.

Tháng 10 năm 1959, Phạm Xuân Ẩn về nước, nhờ những mối quan hệ , ông được Trần Kim Tuyến, giám đốc Sở Nghiên cứu Chính trị Văn hóa Xã hội (thực chất là cơ quan mật vụ trực thuộc Phủ Tổng thống), biệt phái sang làm việc tại Việt tấn xã phụ trách những phóng viên ngoại quốc làm việc tại đây.

Từ năm 1960 đến giữa năm 1964, ông làm cho hãng thông tấn Reuters .

Từ năm 1965 đến năm 1976 ông là phóng viên người Việt chính thứ c duy nhất của tuần báo Times, ngoài ra ông còn là cộng tác viên của các tờ báo khác như The Christian Science Monitor...

Từ khi ở Mỹ về nước cho đến năm 1975, với vỏ bọc là phóng viên tuần báo Times của Mỹ, nhờ quan hệ rộng với các sĩ quan cao cấp, các nhân viên tình báo, an ninh quân đội và "người của CIA", Phạm Xuân Ẩn đã có được mọi nguồn tin tức quan trọng từ quân đội, cảnh sát và cơ quan tình báo.

Những tin tức và phân tích tình báo chiến lược của Phạm Xuân Ẩn được bí mật gửi cho Bộ chỉ huy quân sự ở miền Bắc thông qua Trung ương cục Miền Nam. Chúng sống động và tỉ mỉ đến mức người ta kể rằng Hồ Chí Minh và Võ Nguyên Giáp đã reo lên: "Chúng ta đang ở trong phòng hành quân của Hoa Kỳ ." [1]

Ngày 30 tháng 4 năm 1975, Phạm Xuân Ẩn là một trong những nhà báo chứng kiến sự kiện chiếc xe tăng số hiệu 843 của quân đội Nhân dân Việt Nam húc đổ cổng dinh Độc Lập. Đến thời điểm đó cũng như một vài tháng sau, các đồng nghiệp phóng viên và những người thuộc chính quyền cũ cũng nhưchính quyền mới vẫn chưa biết ông là một điệp viên Cộng sản. Khi đó vợ con của ông đã rời khỏi Việt Nam theo chính sách sơ tán của Mỹ, theo kế hoạch của miền Bắc, ông sẽ được gửi sang Mỹ để tiếp tục hoạt động tình báo [2]. Tuy nhiên, kế hoạch thay đổi, vợ con ông đã phải mất một năm để quay lại Việt Nam theo đường vòng: Paris - Moskva - Hà Nội.