1932年東京都生まれ。慶應義塾大学在学中に作曲家・平尾貴四男、小船幸次郎に師事し、作曲家としての活動を始める。1954年から始まったNHKラジオ第一放送と第二放送を同時に使用したステレオ音楽番組「立体音楽堂」の音楽を担当する。この番組で大編成のオーケストラを駆使した冨田の音楽が評判になったことがきっかけで、第１回NHK大河ドラマ「花の生涯（1963年）」の音楽担当として抜擢された。大河ドラマはこれまでに「天と地と（1969）」「新平家物語（1972）」「勝海舟（1974）」「徳川家康（1983）」の計５本を担当している。その他にもNHKの番組音楽を数多く担当し「新日本紀行（1963）」「きょうの料理（1957）」などのテーマ曲がよく知られている。また映画、アニメーションの分野でも「ジャングル大帝（1965）」「リボンの騎士（1967）」「マイティージャック（1968）」「飢餓海峡（1965）」「ノストラダムスの大予言（1974）」ほか多数の作品に携わる。さらに1970年大阪万博、東芝IHI館の空中球形劇場「グローバル・ビジョン」のための音楽を作曲するなどメディア以外の分野でも優れた音楽を残している。

幼い頃に音の響きに惹かれたことがきっかけで、大編成のオーケストレーションがしたいという思いで作曲に情熱を傾けていた冨田だったが、同時に、すでに改良の止まってしまった既存楽器によって組み合わされる音色に限界も感じ始めていた。そんな頃、冨田はシンセサイザーという新しい楽器の存在を知り、そしてこの楽器に望みを賭けたのだった。当時はまだ一般には知られておらず、非常に高価だったシンセサイザーを苦労の末に個人輸入してまで手に入れた。1974年には約1年半に及ぶ試行錯誤の末に作り上げたシンセサイザーの先駆的な作品「Snow Flakes are Dancing」（日本版は「月の光」）を米RCAより発表。ビルボード誌のクラシック部門で日本人初の1位を獲得するとともに全世界で空前のヒットとなった。同作品では米グラミー賞4部門にノミネート、さらに全米レコード販売者協会（NARM）の1974年度クラシック部門最優秀レコードに選出されるという快挙をなしとげ、TOMITAの名は世界的なものとなった。続く「展覧会の絵」「火の鳥」「惑星」・・といずれの作品もが世界的なヒットを記録し、3度にわたる米グラミー賞ノミネートと、Best Engineered Recording部門においては、録音エンジニアとしても2度にわたりクアドロフォニック（今でいうサラウンド）の技術が評価された。
1984年にはオーストリアのリンツで「Ars Electronica」のオープニングコンサートとして8万人の聴衆を魅了し大きな話題となった。 立体音響や照明、レーザー光線などの演出効果を駆使した大型野外コンサートは「トミタ・サウンド・クラウド」と呼ばれ、その後もニューヨーク（自由の女神100年祭）、岐阜・長良川（ぎふ中部未来博）、シドニー湾（オーストラリア建国200年祭）をはじめ世界各地で開催された。

90年代以降になるとシンセサイザーによる創作と同時に、再びテレビ、映画での活躍の機会が増えていった。「大モンゴル（1992）」「街道をゆく（1997）」「始皇帝（1994）」「アジア古都物語（2002）」などのNHK番組音楽のほか、松竹映画「学校」シリーズ（1993～）「隠し剣 鬼の爪（2004）」「武士の一分（2006）」ほか多数の映像作品にも携わり、2001年の東映創立50周年記念作品「千年の恋～ひかる源氏物語」では日本アカデミー賞優秀音楽賞を、松竹映画「たそがれ清兵衛（2002）」では日本アカデミー賞最優秀音楽賞に輝いた。

そして98年から冨田はこれまでの音楽人生の全てをかけて「源氏物語」の交響曲化に挑んだ。フルオーケストラ、邦楽器、シンセサイザーによるオリジナル作品「源氏物語幻想交響絵巻」は東京、ロサンゼルス、ロンドンと自らの指揮で初演を行い、ロンドンフィルの録音によって2000年にはアルバムとしてまとめあげられた。その後も幾度とない改訂が重ねられて、2011年にはサラウンドによる音場表現と新たに京ことばによる語りを加えたアルバム「源氏物語幻想交響絵巻　完全版」となり、冨田にとって集大成ともいえる作品となった。伝統楽器や電子楽器といった従来のジャンルの枠を超えた冨田流のオリジナル作品は、その後も「仏法僧に捧げるシンフォニー（2006）」「イーハトーヴ交響曲（2012）」など革新的で魅力ある作品が生まれている。
幼少期から抱き続けた「音の響き」への興味も生涯にわたり尽きることは無く、アルバムやコンサートにおいての立体音響による表現に冨田はこだわり続けた。2001年には東京ディズニーシー、アクアスフィアのエントランス・ミュージックとして3面立体音響のためのシンフォニーを作曲。さらに立体音響の集大成としては、晩年に日本コロムビアよりアルバムを次々にリリースしている。音響効果をも含めた音楽は「トミタ・サウンド」と呼ばれクラシック・ファンのみならず、世界中の幅広い層から支持されている。
道無き道を歩んできた冨田の音楽家としての道のりは常に試行錯誤の連続ではあったが、そのスケールの大きさと冨田独自の技術や発想、特にシンセサイザー黎明期での革新的な作品に影響されたアーティストは大変多く、その精神は次世代の音楽へと引き継がれている。