Mihajlo Pupin je rodjen 9. oktobra 1854. u selu Idvor, opština Kovačica, u Banatu. Otac Konstantin (Kosta) i majka Olimpijada, zemljoradnici, imali su desetoro dece, 5 sinova i 5 kćeri.

Nakon završene osnovne i, delimično, srednje škole u jesen 1872. pošao je na školovanje u Prag, u Češku gde je nastavio šesti razred i prvi semestar sedmog razreda realke. Učio je vrlo neuredno zbog učešċa u sukobima češke i nemačke omladine i tugovanja za zavičajem. U svojoj 20-toj godini odlazi u SAD.

Pupin je prvih pet godina po dolasku u SAD živeo veoma teško. Radio je kao fizički radnik, istovremeno pohadjajuċi Kuperovu večernju školu. U jesen 1879. godine položio je prijemni ispit na Kolumbija-koledžu u Njujorku. Kao primeran učenik oslobodjen je plaċanja školarine, a veċ na kraju prve godine dobio je dve novčane nagrade (iz grčkog i matematike). Uglavnom se izdržavao prihodima od podučavanja slabijih učenika i fizičkog rada.

Po završetku školovanja 1883. godine dobio je diplomu prvog akademskog stepena Bachelor of Arts, a dan pre toga primio je američko državljanstvo. Dobio je odmah stipendiju, kao odličan student, za studije matematike i fizike u Kembridžu u Velikoj Britaniji (1883-1885), a zatim u Berlinu (1885-1889), gde je doktorirao iz oblasti fizičke hemije, sa temom: „Osmotički pritisak i njegov odnos prema slobodnoj energiji“.

Svoju nastavničku karijeru i naučnu delatnost započeo je 1889. godine kao nastavnik fizičke matematike u odeljenju za elektrotehniku na Kolumbija univerzitetu u Njujorku, gde je punih četrdeset godina radio kao nastavnik i profesor. Patentirao je 34 pronalaska.

Pupin je bio i uspešan pisac. Za svoje autobiografsko delo „Sa pašnjaka do naučenjaka“ (naslov u originalu: „From Immigrant to Inventor“), objavljeno 1923. godine, godinu dana kasnije 1924. godine dobio je Pulicerovu nagradu.

Nikada nije zaboravio i nije se odrekao starog zavičaja i pomagao je i Idvor i Srbiju i Jugoslaviju na sve moguċe načine.