Ses origines restent incertaines : les premiers écrits sur Abraham Hannibal suggèrent qu’il serait né en 1696 dans un village appelé Lagon, capitale d’une province mineure d’Éthiopie, située sur la rive Nord du fleuve Mareb, qui sert aujourd’hui en grande partie de frontière entre l’Éthiopie et l’Érythrée. Cependant, ce lieu n’a jamais été identifié en Éthiopie.
En 1723, il accède au grade de capitaine dans l’armée française. Il devient alors, sous le règne de l’impératrice Elisabeth, l’une des figures les plus importantes de l’Empire russe. La contribution d’Abraham Hannibal au développement technique et militaire de la Russie du XVIIème siècle est considérable. Abraham fut le commandant en chef de l’armée impériale russe, le directeur général des fortifications et le chef des ingénieurs.
En 1726, il écrivit un livre sur la géométrie et les fortifications pour les étudiants ingénieurs. C’est lui qui introduisit l’enseignement de l’architecture civile dans les écoles d’ingénieurs militaires russes. Cependant, malgré son importante collaboration dans l’Empire russe, le nom d’Abraham Hannibal n’est presque jamais mentionné dans l’histoire commune de la Russie.