熊本工の投手として吉原正喜（捕手）とのバッテリーが評判となり、１９３４年・３７年夏の全国中等学校野球選手権大会で準優勝。３７年の決勝戦終了後に甲子園球場の土をユニフォームのポケットに入れ、母校のグラウンドに撒いた。甲子園の土の持ち帰り第１号とされている。３８年に東京巨人軍に投手として入団。契約金３００円、月給１１０円。（３００円は「東京では分からないが、熊本の田舎ならなんとか家一軒建てられる」ものだったという）。巨人の狙いは強打の捕手の吉原で、投手・川上はそのついでという扱いだったという。

　入団当時は投手で、球威に乏しく自他共に認める「軟投派」タイプであった。藤本定義監督は川上の打撃に注目していたが、投手が不足していたので投手も兼任させた。春シーズンは川上は投手と打者の両方で起用されたが、いずれも成績は芳しくなかった。

　川上が野手に転向したのは、秋シーズン前の夏のオープン戦。当時の正一塁手が怪我でスタメン落ち急遽一塁手として出場したゲームで３安打の活躍を見せ、秋シーズンから一塁手として定着。

３９年には、川上は首位打者を獲得。以後４１年にも首位打者に輝いた。低く鋭い打球を飛ばす打撃スタイルから、大和球士は川上の鋭い打球を「弾丸ライナー」と名付けた。

　４４年に入営。立川航空隊整備隊の教官（陸軍少尉）の時に、終戦。川上は郷里の人吉に帰り、家族を養うために農業に専念。プロ野球は早速４６年４月から公式戦が再開され、巨人は川上に対して選手復帰を要請したが、川上は人吉の家族を扶養するため、「もし３万円貰えるなら巨人に復帰する用意がある」と伝えた。これは、プロ野球で初めて選手が球団に対して契約金を要求したことになり「三万円ホールドアウト事件」とも言われる。６月から巨人に復帰し、その年３割をマーク。８月２６日の中日戦で、銀座の運動具メーカーからプレゼントされた赤いバットを使ってプレーし、この「赤バット」は川上のトレードマークとなり、青バットを使用した大下弘とともに鮮烈な印象を与えた。

　５０年のシーズン途中に、多摩川のグラウンドで打撃投手を個人的に雇って打撃練習をしていたところ、球が止まって見えるという感覚に襲われた。これが「ボールが止まって見えた」というエピソードである（実際は当時松竹ロビンスの小鶴誠の発言、不人気球団を渡り歩いた小鶴では記事にならないと、報知新聞記者が川上の言葉に捏造したものである）

　５１年には打率.３７７を記録。これは８６年にバース（阪神）が.３８６を記録して塗り替えるまでセ・リーグ記録。５６年５月３1日の中日戦、中山俊丈投手から日本初の２０００本安打を達成。この到達試合数は日本プロ野球最速記録（１６４６試合）。引退まで２３５１安打(１９７９試合)を記録したが、これは1試合当たり１.１９本で、張本勲の１.１２本、王貞治の０.９８本、野村克也の０.９６本などを大きく上回るものである。これは、今年の統一球とは比較にならない戦時中の飛ばないボール使用時期を含むものとしては驚異的とさえいえる。

　６１年、水原監督に代わって、監督に昇格。就任直後、戦力に乏しいロサンゼルス・ドジャースが毎年優勝争いをしている点に注目し、ドジャースのコーチのアル・キャンパニスが著した『ドジャースの戦法』をその教科書として、春季キャンプからその実践に入り戦力強化に努めた。戦力が整った６５年以降、巨人は長島や王の活躍もあって７３年まで９年連続リーグ優勝と日本一のいわゆる「Ｖ９」を達成した。日本シリーズ優勝11回は歴代最多で、日本シリーズで負けたことが１度もない。

　川上さんは、こう記す「プロ野球の監督は負けて花道――。今はＶ10が出来なくてよかった、と思っている。」この時、川上哲治監督54歳。現在では考えられない若さでの辞任だった。

６５年に「野球の殿堂」入り。Ｖ９達成の前で、選手としての功績だけの評価であった。

　９２年には、野球人として初めて「文化功労者」に選ばれている。

　なお、９９年には出身地の人吉市に、その名を冠した「川上哲治記念球場」が完成。地元の好球家に親しまれている。