Après de brillantes études, il occupe le poste de secrétaire général adjoint de l’Union africaine et malgache (UAM) de 1962 à 1964. Dans la nuit du 17 au 18 février 1964, Libreville est le théâtre d’un coup d’État. Les putschistes arrêtent le président de la République Léon Mba, le président de l’Assemblée nationale Louis Bigman et plusieurs ministres occupant des postes clés.
Léon Mba, le président déchu, est contraint de prononcer un discours radiophonique dans lequel il annonce sa démission. Le putsch fut un succès. Jean-Hilaire Aubame est élu président du gouvernement provisoire par les putschistes. Le nouveau chef de l’État s’empresse de nommer ses ministres; un gouvernement composé principalement de civils, Germain M’ba est nommé ministre de l’Intérieur.
Jean-Hilaire Aubame contacte l’ambassadeur de France au Gabon pour garantir que les ressortissants français et leurs biens seront protégés. À Paris, le général de Gaulle et Jacques Foccart, qui ont appris la nouvelle du putsch, étaient furieux. En effet, Léon Mba était un pion qu’ils ont placé à la tête du Gabon pour piller les richesses de ce pays au sous-sol pétrolier. Le Gabon est un pays stratégique pour la France et la France veut avoir le contrôle sur ses dirigeants.
Les autorités françaises ont donc décidé d’intervenir militairement pour restaurer Léon Mba à son poste de Président de la République. Dans la nuit du 18 au 19 février, les troupes françaises de Dakar et Brazzaville débarquent à Libreville et rétablissent Léon Mba à la tête du Gabon. Germain M’Ba, nommé ministre de l’Intérieur par l’éphémère gouvernement de Jean-Hilaire Aubame, entre dans la clandestinité et fonde le Mouvement national de la révolution gabonaise (MNRG) à Alger en mai 1964. Il prend le pseudonyme d’Omar Ben Ali. « Décide alors de gagner l’Afrique subsaharienne pour se rapprocher du Gabon. On le retrouve ensuite au Ghana, au Kongo-Brazzaville et au Kongo Kinshasa. Il s’installe à Paris en 1965 où il est nommé rédacteur en chef adjoint du magazine Jeune Afrique. Cumulativement, il continue de mener ses combats politiques. Omar Bongo devient président de la République gabonaise le 28 novembre 1967, à la mort de Léon Mba. Soucieux d’avoir tous ses rivaux sous son contrôle, Omar Bongo décide de les faire rentrer au Gabon ».
En septembre 1968, Germain M’Ba est nommé conseiller économique et commercial du nouveau président Albert-Bernard Bongo. Puis à partir de 1969, il est nommé ambassadeur du Gabon en Allemagne puis au Japon. Malgré ce rapprochement avec le pouvoir, il ne cache pas ses ambitions pour un Gabon démocratique. Omar Bongo se méfie de ce jeune intellectuel au vaste carnet d’adresses; il le voit comme un ennemi potentiel; il faut l’éliminer. Omar Bongo confie la mission au mercenaire français Bob Denard.
Le 17 septembre 1971, alors qu’il était en visite à Libreville, Germain M’Ba est assassiné en pleine rue de Libreville par deux mercenaires blancs qui lui tirent dessus avec un pistolet et emportent son corps. Son corps ne sera jamais retrouvé. Il a été assassiné devant sa femme et sa fille, grièvement blessées.