Первоначально крепость, вероятно, была возведена греками в VI веке до н.э., поскольку помимо останков колонии Диоскуриады, на дне Сухумской бухты сохранились руины южной крепостной стены.
В I веке до н.э. крепостью завладели римляне. В конце XIX века эта гипотеза была подтверждена археологической находкой — плитой с подписью Флавия Арриана, наместника императора.
После римлян крепость перешла в руки византийцев, они укрепили свою фортификацию в 565 году.
Но в 736 году в регион вторглись арабы и крепость была завоевана новыми властителями.
В 1724 году османский архитектор Юсуф-Ага проектирует и строит на месте византийского укрепления бастионную крепость Сухум-Кале.
Известно, что в конце XVIII века крепость стала резиденцией влиятельного князя Абхазии Келеша Чачба, он жил здесь до своей смерти в 1808 году.
Сухум-Кале потеряла свое военное значение после русско-турецкой войны 1877-1878 гг и использовалась как городская тюрьма до начала XX века.