Роден во работничко семејство во Единбург, Конери стана Џејмс Бонд во 1962 година, по неколку помали улоги во британски филмови. Пред тоа бил во кралската морнарица, работел како млекар и бил посветен бодибилдер и солиден фудбалер.

За филмот „Недопирливите“ во 1988 година освои „оскар“ за најдобра споредна улога и истовремено се здоби со слава благодарение на серијалот „Индијана Џонс“. Тој одби да се појави во четвртиот дел на „Индијана Џонс“, велејќи дека ужива во пензијата.

Последниот филм го сними во 2003 година, а од јавниот живот целосно се повлече во 2011 година.