او که زمانی در جریان جنگ ایران و عراق نفر دوم سپاه بود، عملا چشم و گوش اکبر هاشمی‌رفسنجانی، فرمانده جنگ در جبهه‌ها محسوب می‌شد. در سال ۱۳۷۸ بالاترین درجه نیروی دریایی یعنی دریابان (معادل سرلشکری در نیروی زمینی) به او اعطا شد و به تنها دریابان جمهوری اسلامی تبدیل شد.
در دوره محمود احمدی‌نژاد اگرچه هرگز نما و نمادی از اختلاف نظرهای شمخانی و احمدی‌نژاد رسانه‌ای نشد اما او در دولت نبود. به جای آن شمخانی به ریاست نهاد حساس مرکز راهبردی دفاعی (بازوی تحقیقاتی - سیاستگذاری ستاد کل نیروهای مسلح) منصوب شد.
با آغاز ریاست‌جمهوری حسن روحانی، شمخانی که همواره رابطه خوبی با میانه‌روهای حامی اکبر هاشمی‌رفسنجانی داشت، دبیر شورای عالی امنیت ملی شد.
حسن روحانی، علی لاریجانی و سعید جلیلی، دبیران پیشین شورای عالی امنیت ملی هر سه سرپرست مذاکرات هسته‌ای ایران بودند اما انتصاب علی شمخانی به دبیری این شورا در سال ۱۳۹۲ همزمان شد با انتقال پرونده هسته‌ای ایران به وزارت خارجه. ظاهرا این درخواست حسن روحانی بوده است که مذاکرات هسته‌ای مستقیما در دولت او پیگیری شود و در عین حال سطح مذاکرات با وزیران خارجه کشورهای مقابل نیز ارتقا یابد.
با این تغییر در ابتدا به نظر می‌رسید که سطح و عمق اثرگذاری علی شمخانی به عنوان دبیر شورای عالی امنیت ملی در پرونده هسته‌ای، بسیار محدود شود اما باز هم این گونه نشد و شمخانی خلاف پیش‌بینی‌ها ظاهر شد؛ او جایگاه «دبیری شورای عالی امنیت ملی» را به موقعیتی تازه تبدیل کرد؛ موقعیتی که در آن تقریبا تمامی دیپلمات‌ها و چهره‌های مهم سیاست خارجی کشورهای دیگر که به تهران سفر می‌کردند، حتما دیداری هم با او به عنوان «دبیر شورای عالی امنیت ملی» داشتند. دیدارهایی که شمخانی هرازگاهی در آن با لباس نظامی هم ظاهر می‌شد. در این سال‌ها بارها با مهم‌ترین نمایندگان کشورهای دیگر - به ویژه کشورهای اروپایی - که به تهران سفر می‌کردند، ملاقات کرد.
با پیروزی ابراهیم رییسی در سیزدهمین انتخابات ریاست‌جمهوری گمانه‌زنی‌های بسیاری حول این مجوز منتشر شد که شمخانی از سمت دبیری شعام کنار می‌رود و به جای او سعید جلیلی به سمت دبیری شورای عالی امنیت ملی برمی‌گردد. اما شمخانی سرجایش ماند. حتی برخی، پرونده «علیرضا اکبری» را بخشی از تلاش‌های رقبای سیاسی شمخانی برای حذف او از صحنه قدرت توصیف می‌کردند که البته به نتیجه مدنظرشان نرسیدند اما نه‌تنها شمخانی حذف نشد که نامش با باز شدن یکی از مهم‌ترین گره‌ها در عرصه سیاست خارجی ایران گره خورد.
در دولت سیزدهم مذاکرات احیای برجام همچنان در اختیار وزارت خارجه باقی ماند اما داستان روابط ایران و عربستان به سطحی دیگر منتقل شد. زمانی که خبر مذاکرات محرمانه ایران و عربستان با میانجیگری عراق توسط روزنامه وال‌استریت ژورنال منتشر شد، درباره اینکه چه نهادی این مذاکرات را اداره می‌کند و آیا وزارت خارجه در این پرونده نقشی دارد یا نه، تردیدهایی وجود داشت.
در اواخر سال ۱۴۰۱ وقتی در نهایت مذاکرات به نتیجه رسید، نقش علی شمخانی و نهاد شورای امنیت ملی در این پرونده، ناگهان همه ارگان‌های دیگر مرتبط با سیاست خارجی جمهوری اسلامی را به زیر سایه برد و کار به جایی رسید که شخص وزیر وقت امور خارجه مجبور شد درباره اینکه او در توافق ایران و عربستان نقشی نداشته، اظهارنظر کند. اگر چه گفت که این مذاکرات با هماهنگی وزارت خارجه انجام شده است. در نهایت آنچه در برابر چشم خبرنگاران رخ داد غیرمنتظره بود؛ پرونده حل مناقشات ایران و عربستان با کارگردانی علی شمخانی باز شدن نخستین گره‌های قدیمی را به خود دید.
