Der als Keijo Rosberg in Stockholm geborene Finne steigt 1965 in den Kartsport ein. Über die Zwischenstufe Formel V 1300, in der er 1973 den Europapokal gewinnen kann, entert er 1976 die Formel-2-Europameisterschaft. Gefördert vom US-amerikanischen Rennstallbesitzer Fred Opert beteiligt er sich außerdem an der nordamerikanischen Formel-Atlantic-Serie. In seiner ersten Formel-2-Saison belegt er auf einem Toj-BMW Platz 10 im Endklassement, 1977 wird er auf einem Chevron-Hart Sechster, wobei er den Lauf im sizilianischen Enna-Pergusa für sich entscheiden kann.
1978 ergattert Rosberg zunächst einen Platz im Formel-1-Team Theodore Racing des Hongkong-Chinesen Teddy Yip und absolviert im Saisonverlauf auch fünf Grand-Prix-Rennen für das deutsche ATS-Team. Insgesamt nimmt er an 16 von 18 WM-Läufen teil und erzielt mit dem zehnten Platz beim deutschen Grand Prix in Hockenheim auf einem aus dem Vorjahr stammenden Wolf WR3 von Theodore Racing sein bestes Resultat.
Aufmerksamkeit in der Szene erregt er, als er Mitte März bei der nicht zur Weltmeisterschaft zählenden International Trophy in Silverstone auf regennasser Fahrbahn die fast vollständig angetretene Formel-1-Prominenz mit seinem nur mäßig wettbewerbsfähigen Theodore-Cosworth hinter sich lässt. Auf Rosbergs Karriere hat dieser Erfolg jedoch keine unmittelbaren Auswirkungen, und so bleibt auch die folgende WM-Saison beim Team Wolf Racing, wo er ab Mitte des Jahres den Platz von James Hunt einnimmt, bis auf einen neunten Platz in Frankreich gänzlich fruchtlos.
Vorübergehende Besserung stellt sich 1980 ein, als der Finne zum Fittipaldi Team wechselt. Immerhin erreicht er mit dem zweitklassigen Fittipaldi-Ford sechs WM-Zähler und wird Zehnter der Fahrerwertung. Am Ende des zweiten Jahres im brasilianischen Rennstall steht jedoch wieder die Null in der Schlusstabelle.
Erst 1982 schafft Rosberg den Durchbruch in der Formel 1, als plötzlich alles zu seinen Gunsten zusammenspielt. Er bekommt bei Williams den Platz von Ex-Weltmeister Alan Jones und rückt sogar zur Nummer eins auf, als mit Carlos Reutemann der andere Williams-Star nach zwei Rennen unvermittelt seine Karriere beendet. In einer von schlimmen Unfällen heimgesuchten Saison arbeitet sich Rosberg mit guten Platzierungen nach vorn und wird mit nur einem Sieg, beim Großen Preis der Schweiz, der im französischen Dijon ausgetragen wird, schließlich Formel-1-Weltmeister.
In den folgenden drei Saisons bleibt er dem Team Williams treu und sichert sich 1985 noch einen dritten Platz in der Fahrerwertung. 1986 wechselt er als Teamkollege von Alain Prost zu McLaren, belegt einen zweiten Rang in Monaco und schließt die Saison mit 22 WM-Zählern auf dem sechsten Platz ab. Anschließend erklärt er nach insgesamt 114 Grands Prix seinen Rücktritt vom Formel-1-Sport.
1991 kehrt der Finne jedoch mit Peugeot in die Sportwagen-Weltmeisterschaft zurück. Im Folgejahr kommt er in die Deutsche Tourenwagen-Meisterschaft, startet für AMG-Mercedes auf einem 190 E 2.5-16 Evolution II DTM und beendet die Saison auf Platz fünf der Fahrerwertung. Danach steigt er um auf Opel und gründet ein eigenes Team, das in der DTM sowie der International Touring Car Chamionship startet. Mit Start der neuen DTM im Jahr 2000 bis zur Saison 2004 tritt sein Team mit dem AMG-Mercedes CLK-DTM und der AMG-Mercedes C-Klasse DTM an und erreicht mit Fahrern wie Gary Paffett, Christijan Albers oder Pedro Lamy eine Reihe achtbarer Ergebnisse.