Ha volt már valaki klasszikus zenei koncerten, ha nem, egyszer mindenkiben felmerült már a kérdés, mi szükség van a karmesterre, hiszen ha minden zenész a saját kottáját nézi, nem lehet baj. Miért kell, hogy valaki egy pálcával vagy esetleg puszta kézzel odaálljon a zenekar elé és különböző látszólag rendszertelen kézmozdulatokkal irányítsa az együttest?
Képzeljük el, hogyan szólalna meg egy grandiózus és sokszereplős darab, ha nem volna senki, aki irányít, és a zenekari tagok magukra vagy a zenésztársukra hagyatkozva igyekeznének követni a darabot, megtalálni, hogy éppen hol is tartanak a zenei folyamatban, és milyen tempóban kellene belépniük. Elengedhetetlen, hogy a zenekar minden tagja a karmester intésére lépjen be, rossz belegondolni, mi történne, ha a hátrább elhelyezkedő szólamokban, vagy azokban, ahol éppen hosszabb szünet volt előírva, csak akkor kapnának észbe a zenészek, ha már a másik hangszer hangja odaért hozzájuk.
Egy laikus szemlélő és koncerthallgató is levonhat következtetéseket arra vonatkozóan, hogy egyes kézmozdulatok mit, milyen ütemet jelölnek, és van még néhány rendszeresebben használt gesztus, de nincs semmiféle szigorú előírás, amit egy karmesternek a gesztusok tekintetében be kellene tartania. Ennek megfelelően láthatunk a színpadon különböző karmestereket, akik mind képesek saját személyiségüket átvinni a vezénylésbe, sőt átragasztani azt az együttesre és a megszólaló darabra is.
Emiatt látunk néha teátrálisan ugrándozó vagy a pálcával erőteljesen hadonászó karmestert, de olyat is, aki csak a szeme sarkából, vagy a feje búbjával jelez egy-egy hangszercsoportnak. A koncert során így, ha még a részleteket nem is értjük, nagyszerűen meg tudjuk figyelni a karmester személyiségének és a megszólaló zenei anyagnak az összhangját. A karmester feladata, a hangjegyek pontos megszólaltatása mellett, hogy a gondolatokat is kiolvassa és értelmezze a maga számára a partitúrából, és a próbák során a zenekar játékát ennek mentén alakítsa.
A középkorban, abban a korszakban amikor a vokális zenei repertoár a legkiterjedtebb volt, főként egyházi alkalmakkor került sor kórusművek előadására, ahol az úgynevezett karnagy kézmozdulatokkal jelzete a dallamíveket valamint a dinamikai és ritmusváltásokat. Később a 17. századtól kezdve maradtak ránk olyan ábrázolások, amelyeken a kórusokat irányító személy kezében különböző tárgyakat láthatunk, amelyekkel az együttest irányította.
Ez főként valamilyen hosszúkás papírtekercs vagy pálca volt. A vezénylésez használt segédeszközök alkalmazása ekkor azonban még nem terjed el. Talán több olyan eset is előfordult mint amit a francia Jean-Baptiste Lully életrajzából ismerünk, miszerint a zeneszerző XIV. Lajos francia király csatában szerzett sérüléseiből való felépülésének alkalmából vezényelte Te Deum című alkotást, amikor karmesterbotjával megsebezte lábát, a seb elfertőződött, és rövid idő múlva elhunyt.
A barokk kor instrumentális, vagyis hangszerekre és nem énekhangra épülő együtteseiben általában az első hegedűs vállalta magára az irányító szerepet, aki játéka közben fejével vagy hangszerének nyakával jelezte a fontosabb momentumokat a zenekar többi tagjának. A korabeli operaelőadások alkalmával több esetben is két személy vállalta a vezető szerepet. A billentyűs hangszeren kísérő játékos a kórus számára, az első hegedűs pedig a zenekar számára szolgált vonatkozási pontul.
Csak a korai 19. század hozománya, hogy egy konkrét személy került kijelölésre a karmesteri szerepre, akinek nem volt más hangszeres feladata, csak az együttes irányítása. Erre az elkülönülésre többek között azért is volt szükség, hiszen a zenekarok létszáma ebben a korban jelentősen megnövekedett egy sokkal dúsabb és teltebb hangzás elérése érdekében, illetve új hangszerek is bekerültek a szimfonikus repertoárba. A karmesteri pálca használatának elterjedése is erre az időre tehető, amelynek az előbbi létszámnövekedéssel összefüggő egyszerű és praktikus okai vannak. A karmesteri kéz meghosszabbításával pontosabb jelzéseket lehetett közvetíteni és a megnövekedett létszámú együttesben a karmestertől jóval hátrébbülő zenészek is jobban látták a jelzéseket.
A legkorábbi mai értelemben vett karmesterek közül, kiemelendő Louis Spohr, Carl Maria von Weber, Louis Antoine Jullien és Felix Mendelssohn, akik a karmesterség mellett mind zeneszerzők is voltak. Spohr nevéhez fűződik a különböző betű és számjelzések bevezetése is a kottaanyagba, amely vonatkozási pontok segítségével sokkal hatékonyabban lehetett dolgozni a próbákon. Csak a karmesternek van partitúrája, vagyis olyan kottája, amelyben a zenekari anyag minden szólama egyszerre megtalálható, a többiek szólamkottából dolgoznak. Ahhoz, hogy próba közben ugyanonnan tudják kezdeni a részleteket, szükség van olyan jelzésekre, amik minden kottában megjelölik a darab ugyanazon pontját. Az első, karmesterként karriert befutó művész a német Hans von Bülow volt.
Később Hector Berlioz (1803-1869) és Richard Wagner (1813-1883), voltak azok, akik először szenteltek írásos tanulmányokat a karmesterségnek mint foglalkozásnak. Wagner volt az első, aki olyan elvárásokat fogalmazott meg egy dirigenssel kapcsolatban, hogy ne csak a pontosság és a kottahűség szóvivője legyen egy előadásban de, alakítsa a darabot, legyenek saját elképzelései és a zeneszerzői szándék mentén interpretálja a darabot. Wagner fektette tehát le azokat az elemeket, amik magát a karmestert is az igazi művészek közé emelik.
Wagner hívta fel a figyelmet arra, hogy a karmester elengedhetetlen szereplője egy zenemű előadásának, hiszen általa formálódik a darab és nyer más-más értelmet minden egyes előadás. Wagner szólt elsőként arról is, hogy a karmester által választott tempók hatással lehetnek az egész kompozíció dramaturgiájára, vagyis az ő alapvetései után a karmester nem báb többé, aki csak azért felel, hogy a megfelelő időben, a megfelelő hangszerest figyelmeztesse, és egybetarts a darabot, de előadója a zeneműnek. Ebbe a wagneri hagyományba illeszkednek olyan híres karmesterek, mint Arthur Nickish, Willem Mengleberg és Wilhelm Furtwangler, valamint Lorin Maazel és Daniel Barenboim is.