야후 창립 멤버인 제리 양의 스카우트 제의를 거절하며 직접 창업하겠다는 욕망을 접지 않았다.
1997년 중국 대외경제무역부에서 인터넷 네트워크 업무를 담당했는데,
차이나 옐로페이지 시절의 동료들을 데리고 가서 해낸 것이다.
대외경제무역부는 온라인 서비스를 제공하는 중국 최초의 정부 부서였고,
베이징에 '중국 국제전자상거래센터' 회사를 세우고 마윈에게 조직관리를 맡겼다.
하지만 마윈은 공공기관 특성상 경영에 대한 규제와 간섭이 너무 심하다고 생각했다.
처음 약속은 30% 지분을 주겠다고 했지만,
실제로는 '현행법상 불가능하다'라는 이유로 매우 적은 월급만 주었으며,
정부 관료들은 간부와 외부인 사이에 거리두기를 원했으며 복종, 독점, 통제만을 원했다.
이들이 낸 성과가 항저우를 떠들썩하게 했지만,
모든 성과는 대외경제무역부 간부들의 이름으로 발표되었으며
마윈이 그걸 했다는 것을 아는 사람은 아무도 없었다.
마윈 혼자 홀대를 받았다면 참았겠지만
마윈과 함께 일하던 창업 멤버들도 나쁜 대우를 받았다.
그래서 1999년 회사를 관두고 알리바바 창업 멤버들과 함께 항저우로 떠났는데,
마윈이 그만두자고 하자 5분 만에 전원이 동의했다고 한다.
당시 시간과 돈만 따져보면 상당한 실패가 맞았다.
그러나 그는 정부 입장에서 '최초'로 인터넷을 구동했던 실무진이었다.
그에게는 무려 14개월이라는 그 경험이 있었다.
그것이 그가 알리바바를 키우는 가장 큰 시드머니가 되었다.
중국인 최초로 포브스 표지 모델이 되었다. 2003년 C2C 거래 기업 타오바오를 설립했다. 결제 시스템인 알리페이도 출시했다. 2005년 야후 차이나의 경영권을 인수하고, 야후로부터 10억 달러의 투자금을 받았다. 2006년 경쟁자 eBay를 '수수료 무료'라는 무기로 중국 시장에서 퇴출시켜버렸다. 2007년 홍콩 주식 시장에 상장했다.