1944. július 13-án Budapesten született. Édesapja gépészmérnök, pilóta, a legismertebb magyar repülőgép-tervező. (A nevéhez fűződik – a többi között – a Góbé megalkotása, amellyel, ha máshol nem, a 2x2 néha 5 című filmben mindenki találkozhatott.) Édesanyja költő volt. Rubik Ernő a Budapesti Műszaki Egyetem Építészmérnöki Karán 1967-ben szerzett építészmérnöki diplomát. Később elvégezte az Iparművészeti Főiskolát is, ahol szobrászatot, majd építészetet tanult. 1968-1975 között építész-tervezőként dolgozott. Tanított az Iparművészeti Főiskolán, ahol előbb tanársegéd, majd adjunktus, végül docens lett. Egy évig szerkesztette az ...És játék című lapot. 1983-ban megalapította a Rubik Stúdiót. 1987-ben címzetes egyetemi tanárnak nevezték ki, 1983-ban Állami-díjjal, 1995-ben életművéért Gábor Dénes-, 1996-ban Jedlik Ányos-, 2007-ben Kossuth-, 2010-ben Prima Primissima-díjjal tüntették ki.
Leghíresebb találmánya a nevét viselő kocka, amelyet először nem is játéknak tervezett, hanem a térbeli mozgások szemléltetésére alkalmas eszköznek. Csak később derült ki, hogy játéknak is igen szórakoztató. A kocka 1975-ben jelent meg, és példátlan hazai és nemzetközi népszerűségre tett szert. Később több játékot is tervezett (Bűvös dominó, Sudokube, Rubik-óra, Rubik-gömb), de ezek már nem érték el a Bűvös kocka népszerűségét.
A Rubik-kocka 26 különálló kis részből áll, a 9 kockából álló lapok külön-külön is forgathatók. Rubik először gumigyűrűkkel akarta egymáshoz illeszteni a részeket, de ez nem sikerült, ezért a feladatot úgy oldotta meg, hogy a kockák az alakjuknál fogva tartják össze magukat. A kockákat először maga faragta ki, majd különböző színekkel jelölte meg az oldalakat. (Később, a gyártásnál is nagyon ügyelt a termék szabványos színezésére.) Talán ebből a tapasztalatból adódott, hogy azóta, bármilyen pályázat értékelésekor, mindig kiemeli a kész játék esztétikai megjelenését. (Legutóbb például, amikor a MOME játéktervezői pályázatát értékelte.)
A SZTNH adatbázisából tudjuk, hogy a Rubik-kockához kapcsolódó szabadalmi bejelentést 1976. október 28-án, RU-158 ügyszámon, "Térbeli logikai játék" címmel tették közzé. Ezzel a játék önálló életre kelt, és rövid idő alatt példátlan népszerűségre tett szert. 1980-ban csak Magyarországon közel egymillió darabot adtak el. A KONSUMEX Magyar Külkereskedelmi Vállalaton keresztül megindult a „bűvös kocka” külföldi terjesztése. 1980-ban több országban díjat nyert: így Németországban, Franciaországban és Angliában. 1981-ben a New York-i Museum of Modern Art (a modern művészetek múzeuma) a kockát felvette építészeti és design gyűjteményébe.
Az elmúlt években a világon mindenütt klubok alakultak, versenyeket szerveznek, sőt vannak már kockaforgató világbajnokságok is.
Rubik Ernő több alapítványt is létrehozott. A Magyar Mérnök Akadémia, amelynek kezdőtőkéjéhez jelentős mértékben hozzájárult, fontos feladatának tekinti a kreatív kezdeményezések, a fiatal tehetséges műszaki szakemberek támogatását.
Valószínűleg ő a világon a legismertebb élő magyar feltaláló, de kerüli a nyilvánosságot, ezért megszólalásai mindig eseményszámba mennek. Legutóbb a MOME játéktervezői pályázatának tapasztalatairól (ő volt a zsűri elnöke) nyilatkozott az origónak: „A virtuális és digitális világot egyfajta eszköznek tekintem. Ugyanúgy eszköz, ahogy a papír és a ceruza, ahogy a szerszámkészítő ember, a homo faber szerszámokat csinált. Miért? Mert rájött, hogy a szerszámok segítik őt. Szerszámot készíteni nagyon kreatív tevékenység, de meg kell értenem, hogy a szerszám mire való. Úgy érzem, a számítógép egy jóval többet tudó szerszám, mint amire használják. Itt a technika tulajdonképpen előre szaladt, előrébb, mint a tartalom: az eszközünk többet tud, mint amennyire használjuk. Ez az egyik oldal. A másik, hogy nem tudjuk igazán megmondani, hogy arra, amire valóban használni kéne, alkalmas-e. Úgy érezzük – mivel annyira szofisztikált ez a terület –, hogy biztos alkalmas. Na, de hogyan? Szerintem pont ennek a következő generációnak lesz a dolga, hogy ezt a kérdést megválaszolja.”