Meski tidak sepenuhnya menentang Israel, Indonesia cenderung tidak mau mencari masalah dengan elemen-elemen Islamis radikal di dalam negeri. Alasan ini pertama kali diungkapkan oleh Presiden Soekarno yang tidak meladeni pendekatan pejabat-pejabat Israel dan mengadopsi kebijakan pro-Arab sebagai bagian dari sikap antikolonialisnya. Berikut merupakan perjalanan hubungan Israel dan Indonesia sejak zaman Soekarno.
Masa Soekarno
Setahun setelah Israel berdiri, Presiden Israel, Chaim Weizmann dan Perdana Menteri David Ben-Gurion mengirim telegram rahasia kepada Soekarno yang berisi “Selamat atas kemerdekaan Indonesia”. Surat itu tak dibalas.
Pada Januari 1950, Israel melalui Menteri Luar Negeri Moshe Sharett mengirim telegram kepada Wakil Presiden Mohammad Hatta berisi pengakuan atas kedaulatan Republik Indonesia. Hatta hanya mengucapkan terima kasih tanpa memberi pengakuan atas pendirian negara Israel.
Pada 1952, Presiden Soekarno mengambil langkah kebijakan anti-Israel karena negara tersebut dianggap melakukan penjajahan terhadap Palestina dan tidak sesuai UUD 1945 (“.. kemerdekaan adalah hak segala bangsa…” Pada akhir 1953, pemerintah melarang pemberian visa bagi warga Indonesia buat berpergian ke Israel.
Masa Soeharto
Sikap Indonesia terhadap Israel berubah ketika terjadi pembantaian massal terhadap ratusan ribu anggota dan simpatisan Partai Komunis Indonesia, 1965-1967, dengan Soeharto memimpin Indonesia selama tiga dekade, yang dibekingi oleh Amerika Serikat.
Bukti nyata hubungan Israel dengan Indonesia adalah pembelian pesawat tempur Skyhawk pada 1979—kelak menjadi skadron udara milik TNI Angkatan Udara. Selain menjalin hubungan diam-diam dengan Israel, pemerintahan Soeharto juga mencabut larangan pemberian visa perjalanan warga Indonesia ke Israel.
Pada Oktober 1993, diam-diam Soeharto melakukan pertemuan dengan Perdana Menteri Yitzhak Rabin di kediamannya, Cendana, Jakarta Pusat. Pertemuan itu diatur 10 hari sebelum Rabin datang ke Indonesia. Rabin mendesak Soeharto setelah AS mencoba menghentikan pasokan senjata buat Indonesia. Muaranya karena kegagalan amandemen dari Senator Russ Feingold di DPR AS tentang penghentian penjualan senjata AS ke Indonesia akibat lobi Yahudi. Perdana Menteri Rabin kembali bertemu Soeharto dalam acara 50 tahun Perserikatan Bangsa-Bangsa. Keduanya sepakat membina lebih jauh hubungan diplomatik, dimulai dari perdagangan.
Masa Gus Dur
Setelah Soeharto tumbang, hubungan Indonesia-Israel sempat terhenti. Kabar itu kembali datang ketika Abdurrahman Wahid berkuasa. Gus Dur secara terang-terangan menyatakan akan membuka hubungan dengan Israel. Pada 1 Februari 2000, ia mencabut surat larangan dagang dengan Israel.
Masa SBY
Hubungan Indonesia-Israel bertambah ketika Susilo Bambang Yudhoyono memimpin. Pada masa SBY, hubungan dagang Indonesia dan Israel mencapai puncak. Pada 2008, total ekspor Indonesia ke Israel mencapai 800 Juta dolar AS, sementara nilai ekspor Israel ke Indonesia 100 juta dolar AS.