او در ۱۲۷۶ خورشیدی در خانواده‌ای از اهالی آشنا به هنر چشم به جهان گشود. پدر او نـوازنده صاحب‌نام دوران قاجار بود و عـمویش میرزا عـبدالله از استادان برجسته موسیقی به شمار می‌رفت. علیاکبر تحصیلات خود را در مدرسه‌های سن‌‌لوئی و سعادت به پایان برد. او آموزش تار را از هشت‌‌سالگی نزد پدرش آغاز کرد و در مدت ۶سال ردیف موسیقی ایرانی را از پدرش آموخت و مدتی از محضر درویش‌‌خان بهره برد. نخستین صفحه‌‌اش را در ۱۴ سالگی در بیات ترک و افشاری در تهران ضبط کرد. پس از درگذشت پدر در ۱۲۹۴ خورشیدی در ۱۸سالگی جانشین پدر شد و آموزش شاگردان پدرش را به‌‌عهده گرفت. در دهه ۱۳۰۰ نام‌آورترین نوازنده تار در تمام محافل هنری بود. در ۱۳۰۵ خورشیدی به دعوت کمپانی هیز ماسترز ویس، صفحاتی از او با آواز اقبال ضبط شد. در ۱۳۰۸ خورشیدی هنرستان موسیقی شهنازی را تاسیس کرد.
با تشکیل رادیو در برنامه‌های هفتگی موسیقی رادیو به همراه ادیب خوانساری، محمد روح‌بخش و... نوازندگی می‌کرد. در ۱۳۳۴ خورشیدی در هنرستان آزاد موسیقی به آموزش مشغول شد و در ۱۳۴۱ خورشیدی ردیف آقا حسینقلی را ضبط کرد. استاد علی اکبر خان شهنازی در ۱۳۴۵ خورشیدی مدت پنج سال تمام دستگاه‌های موسیقی ایرانی را که از قدیم به ارث رسیده بود، اجرا و همه را به صورتی مرتب آماده و همچنین در ۱۳۵۶ خورشیدی ردیف دوره عالی را ضبط کرد. این استاد تارنواز سرانجام در ۸۷ سالگی و در اسفند ۱۳۶۳ خورشیدی چشم از جهان فروبست. علیرضا افتخاری که در ۱۳۵۷ خوشیدی با حضور بزرگانی نظیر داریوش صفوت، مهدی فروغ، علیاکبر شهنازی و علی تجویدی در آزمون باربد موفق به کسب رتبه نخست شد، درباره آن دوران و جایزه باربد گفته است: استاد شهنازی دستش را روی دوشم گذاشت و فرمود که مواظب خودت باش تو دیگر خواننده این کشور شدی. من هم زانو زدم و دست ایشان را به احترام بوسیدم.
داریوش پیرنیاکان هم به نقل از خود استاد شهنازی خاطره‌ای نقل کرده و از زبان شهنازی گفته: پدرم (میرزاحسینقلی) با عمویم (میرزاعبدالله) قراری گذاشته بودند بین خودشان که من از آن خبر نداشتم. پدرم می‌‌گفت برو خانه عمویت و بگو «قوطی بگیر و بنشون» را به تو بدهد و با این بهانه مرا روانه خانه عمویم می‌کرد. این واژه یک رمز بین خودشان بود. وقتی خدمت عمویم میرفتم و از او قوطی را می‌خواستم می‌‌گفت اول بنشین کمی ردیف‌‌ها را با هم دوره کنیم و وقتی خواستی بروی قوطی را به تو می‌‌دهم. بعد از کلی تمرین و زدن ردیف‌‌ها عمو مقداری میوه از باغ می‌‌چید و به من می‌‌داد و می‌‌گفت قوطی را دفعه بعد به تو می‌‌دهم. و این ماجرا بارها به همین شکل تکرار می‌شد و هر بار من بخشی از ردیف‌‌هایی را که از پدرم درس گرفته بودم این‌طوری با عمویم دوره می‌کردم. او همچنین گفته: «روزی دیدم آقامیرزا حسینقلی مشغول تنطیم سازکوچکی است. از او علت را پرسیدم و پاسخ داد که علی اکبر هشت سالش شده و می‌خواهد ساز زدن را شروع کند. یک روز که در خدمت میرزاعبدالله مشغول مرور ردیف‌‌ها بودم علی اکبر آمد و گفت «قوطی بگیر و بنشون را بده» که در ادامه این داستان همان چیزی اتفاق می‌‌افتد که خود آقای شهنازی گفته‌‌اند. اسماعیل قهرمانی که شاگرد میرزاعبدالله بوده می‌گوید علی اکبر با وجود سن کمش آنقدر خوب و ورزیده ساز می‌‌زد که ما همه دوست داشتیم ردیف‌‌ها را با او دوره کنیم.»
استاد شهنازی هم گفته: «یک روز مرحوم پدرم تشریف آوردند منزل. یک آدمی (خدمتکاری) ما داشتیم که اسمش حسین بود. او اصرار کرد و گفت علی اکبر از مدرسه آمده چون سابقا میرفتم مدرسه در اونجا تحصیل می‌کردم و اون وقت‌‌ها خانه بیرونی اندرونی بود. بیرونی کلاس ساز بود که پدرم شاگرد‌‌ها را درس می‌‌دادند و اندرونی بود که دری و پرده‌ای داشت. پدرم می‌‌گفت که حسین رو صداش کنید که ببینه علیاکبر از مدرسه آمده چایش را بخورد، نان و پنیرش را بخورد و بیاید کلاس. بعد آمدند به بنده گفتند و من هم رفتم کلاس پیش پدرم. پدرم بهم گفتند علیاکبر، گفتم بله قربان (من خیلی احترام می‌‌گذاشتم بدون اجازه نمی‌‌نشستم)، فرمودند بنشین. عرض کردم چشم و نشستم. گفتند مژده بهت بدم.گفتم قربان چه مژده‌ای؟ گفتند امفاکسول آمده و می‌‌خواد ازما صفحه بگیره. تو بیات ترک و افشاری رو تمرین کن که شبی که می‌‌روی اونجا آماده باشی برای ضبط صفحه و جناب دماوندی هم در این صفحه شرکت داره و می‌‌خواند.
عرض کردم چشم، گفت من دیگه کاری ندارم تا وقتی که تو را خبر کنند و کار انجام شود. من که از مدرسه می‌‌آمدم درس‌‌های مدرسه را حاضر می‌کردم و بعدش پدرم ساعتش را نگاه می‌کرد و می‌‌گفت حالا درست را خوندی بشین سازتو کار بکن و وقتی ساعت زنگ زد برو بخواب و بنده هم همین کارو می‌کردم. خاطرم هست که بعضی جا‌‌ها اشتباه می‌کردم. مثل اینکه تو همون خواب هم بود می‌‌فهمید و می‌‌گفت پسره! چرا اینجا رو اشتباه کردی؟ درستش کن. تقریبا ۱۰، ۱۵ روزی که گذشت تشریف آوردن و گفتن علی اکبر حالا بگو ببینم بیات ترک افشاری رو خوب کار کردی و آماده هستی، گفتم بله، سازرو کوک کردم و شروع کردم زدن. قاه قاه خندید گفت باریکلا باریکلا خیلی خیلی خوب یاد گرفتی حالابیا اونجا بزن این یادگار از تو باقی می‌‌مونه. همون روز عصری ما رفتیم امفاکسول تو خیابون لاله‌زار تو کوچه «فیل خونه» که مدرسه صلایی هم اونجا بود که گاهی اونجا فیل رو می‌‌بردند آب می‌‌دادند بچه‌ها اذیتش می‌کردند. رفتیم استودیو امفاکسول و صندلی گذاشت و بنده رفتم نشستم و شروع کردم به‌ساز زدن. جناب دماوندی گفت پسر آقا حسینقلی به سن ۱۴ سالگی ساز می‌‌زند! یکی دو ماه که گذشت پدرم یک روز آمد خانه و گفت علی اکبر کجاست؟
مادرم گفت الان از مدرسه می‌‌آد. حسین رفته عقبش. بنده آمدم منزل و دو سه مرتبه تکرار کرده بود: علی اکبر چطور شد؟ رفتم پیشش و گفت بیا این کفش رو بپوش ببینم اندازه پات هست؟ پام کردم و گفتم خیلی خوب کفشیه. گفت این پارچه رو هم برات خریدم با این پیراهن و این جعبه شیرینی. من تعجب کردم. گفت صفحه‌تو رفتم شنیدم. خیلی کیف کردم. بیا بشین روی زانوی من و من رو بوسید. بعد گفت مادر علیاکبر بعد‌‌ها این پسر اسم منو زنده نگه می‌‌داره قدرشو بدون. پارچه رو لباس کردیم و کفش رو هم پوشیدم.»
