Его отец давно лелеял мечту сделать хотя бы из одного ребенка вундеркинда, возможно следуя примеру Моцарта. Таким образом, Карл Мария уже в трехлетнем возрасте начал заниматься музыкой с отцом и со своим сводным братом Фридолином, правда, сначала безуспешно. «Карл, ты можешь стать кем угодно, но музыкантом не станешь никогда», — однажды в отчаянии воскликнул Фридолин. Однако отец настоял на том, чтобы занятия музыкой продолжались, хотя в то же время Карл Мария обучался живописи, рисованию, чеканке на меди, как он сам рассказывал позже: «Живопись и музыка занимали все мое время. В первой я, к счастью, имел успехи, я писал миниатюры маслом, пастелью, работал также гравировальной иглой. Но неожиданно эти занятия прекратились, и музыка вытеснила наконец все полностью. Все произошло неосознанно». Вскоре это понял и отец, который делал все возможное, чтобы из хрупкого и болезненного мальчика, который был скорее в тягость кочующей семье, сделать музыкального вундеркинда.
Осуществлению этого намерения способствовало одно обстоятельство: его мать Женевьева по прибытии труппы в Гильдбургхаузен на Верре — шел 1796 год — серьезно заболела, и следовательно, семья должна была долгое время жить вдали от труппы. Карла Марию отдали в ученики тогда еще молодому капельмейстеру и композитору Иоганну Петеру Гейшкелю, который вовремя сумел привести в порядок сумбурные и дилетантские знания своего ученика. В его автобиографическом романе говорится: «По настоящему лучшими навыками сильной, выразительной игры на фортепьяно и такой же тренировкой рук я обязан доброму, строгому и прилежному Гейшкелю из Гильдбургхаузена (1796–97)». С этих пор обучение быстро продвигалось, а его отец, все еще обуреваемый мыслью о вундеркинде, теперь больше, чем раньше стремился отдать своего сына в хорошие руки. Когда в 1797 году, после улучшения здоровья матери, семья отправилась в Зальцбург, Франц Антон использовал возможность и послал Карла Марию учеником к Михаэлю Гайдну, который даже бесплатно давал уроки фортепьянной игры, контрапункта и пения. Хотя Вебер позже и писал, что они остались чужими, что учился он недолго и с большими трудностями, в это время появилось его первое произведение 6 фугетт op. 1, которое опубликовал его отец и которое в «Allgemeine Musikalische Zeitung» получило положительный отзыв.
13 марта 1798 года от туберкулеза умерла Женевьева Вебер, через несколько месяцев после того как родила третьего ребенка, который умер в декабре того же года. Заботу о болезненном Карле Марии взяла на себя старшая сестра отца — Аделаида. Какой утратой стала для него смерть матери, он описал в фрагменте романа «Жизнь музыканта»: «Мой отец испытывал блаженство, когда блистал мной, считал замечательным все, что я создавал, ставил меня в присутствии незнакомых людей рядом с первыми художниками и беспощадно подавил бы чувство скромности, если бы Бог не послал мне мою мать-ангела, которая хотя и убедила меня в моей ничтожности, однако не подавляла искру стремлений, предвещавшую достижение высокой цели, и направляла на правильный путь… Теперь умерла моя добрая мама, не оставив плана воспитания, деликатное чувство справедливости помогло ей внушить мне принципы, которые должны быть всегда опорой моего бытия».
Кружным путем через Вену отец переселился в Мюнхен (отчасти из-за наполеоновской неразберихи), куда сбежала от семьи осмотрительная тетя Аделаида. От большой семьи, включая труппу театра, остался только отец и сын Веберы. Франц Антон начал, наконец, серьезно беспокоиться о регулярном образовании своего сына. Карл Мария брал уроки пения у Иоганна Евангелиста Валлисхаузера, известного под именем Валези, и обучался композиции у мюнхенского придворного органиста Иоганна Непомука Калхера. Под руководством последнего появилась первая, впоследствии утерянная, комическая опера «Сила любви и вина» и так называемая «Große Jugendmesse». В Мюнхене Вебер временно стал учеником Алоиза Зенефельдера, изобретателя литографии. Вебер за этот короткий период якобы внес свой вклад в усовершенствование литографии. Он сам сформулировал это следующим образом: «Живой молодой ум, который быстро схватывает все новое и интересное, вдохновил меня опередить Зенефельдера в изобретенной им литографии…». Есть доказательство того, что Вебер предложил венскому издательству «Артария» опубликовать его работу по литографии. Сохранившимся свидетельством его композиторских и литографических работ этого времени являются «Шесть вариаций на оригинальную тему для фортепьяно» ор. 7, о котором Рохлиц в своем журнале дал положительный отзыв.
Однако беспокойный отец недолго задержался в Мюнхене, хотя там был лучший музыкальный климат для его сына. После года пребывания в саксонском Фрейбурге, куда они прибыли в 1799 году и где в ноябре 1800 года состоялась премьера первой юношеской оперы «Лесная девушка», отец и сын снова сели в почтовую карету и в ноябре 1801 года прибыли в Зальцбург. Михаэль Гайдн снова взял к себе своего прежнего воспитанника. Под его руководством, наряду с переработкой «Große Jugendmesse», Вебер написал третью оперу «Петер Шмоль и его соседи». Михаэль Гайдн писал 2-го января 1802 года об этом произведении: «С истинным удовольствием я присутствовал вчера на приятной репетиции оперы: „Петер Шмоль и его соседи“, написанной моим милым воспитанником Карлом Марией фон Вебером, и не могу иначе как правдиво, с пониманием и совершенным убеждением свидетельствовать, что эта опера обработана по-мужски и полностью по правилам настоящего контрапункта, с большим пылом и деликатностью, что он является также исключительно сильным пианистом нашего времени, и поэтому считаю справедливым и уместным рекомендовать всему музыкальному миру наилучшим образом принять моего дорогого воспитанника». Действительно, эта опера для пятнадцатилетнего композитора, с более чем нерегулярным образованием, была чрезвычайным событием.
В надежде на премьеру оперы отец и сын поехали в Аугсбург, чтобы после безуспешного ожидания отправиться в концертное турне юного виртуоза. Уже тогда Карл Мария своими хрупкими руками с длинными пальцами достиг такой техники и охвата, которые были доступны лишь немногим пианистам. Ученик Вебера Бенедикт говорил об удивительных руках своего учителя: «Наделенный природой преимуществом больших рук, он был в состоянии играть децимы с такой же легкостью, как и октавы, добивался ошеломляющих звуковых эффектов, и как Рубинштейн обладал способностью извлекать из инструмента называемое почти вокальным качество звука». По этой же причине все поколения пианистов особенно оценивали его композиции. По случаю этого концертного турне в сентябре 1802 года Карл Мария шестнадцатилетним юношей впервые приехал в свой родной город Эутин.
Турне на север Германии приблизило его желание исследовать истоки всего прекрасного, что достигли и завещали нам «старые мастера, и сформировать в себе законченное целое…». Где можно было это сделать лучше, чем в Вене? Там трудились такие мастера как Йозеф Гайдн и Людвиг ван Бетховен, а в дворянских домах, также как и в салонах бюргеров, процветала домашняя музыка. «Мне захотелось в мир звуков Вены и я впервые вошел в этот мир».
План Франца Антона отдать Карла Марию в ученики к Йозефу Гайдну потерпел неудачу из-за отказа маэстро, поэтому он обратился к аббату Георгу Йозефу Фоглеру. Эта очень спорная художественная душа, «Рубенс» среди музыкантов, который каждый раз «макал свою кисть в сочную краску», был композитором, музыкальным теоретиком, органистом и пианистом одновременно и в некотором отношении предшественником Ференца Листа. В письме к своему другу Игнацу Зузанну Карл Мария описал впечатление, которое произвел на него Фоглер: «Да, я свободен, сам себе господин, живу только искусством. Мне посчастливилось познакомиться с аббатом Фоглером, который теперь — мой лучший друг, и у которого я изучаю его превосходную систему». Игнац Зузанн принадлежал к числу друзей, которые как-то повлияли на жизнь Вебера. К нему он все больше привязался в своем одиночестве, со дня смерти матери и в связи с начинающимся внутренним разладом с отцом. С прибытием в Вену для Карла Марии наступило время взросления, «быть себе господином». «Семнадцати лет, рано повзрослевший, талантливый, охотно принимаемый, он в полной мере наслаждался… впечатлениями нового красочного мира. Вена тогда была городом дешевого вина, хороших песен, как и сегодня, красивых, волнующих женщин. Карл Мария превосходно пел, и особенно мило и соблазнительно под гитару, он обнаружил, что взгляды женщин, обращенные на него, маленького и болезненного среди своих молодых и здоровых товарищей, были теплее, чем на большинство этих стройных мужчин. Веселее, чем принято, маленькая компания шла, ликуя, с песнями, поцелуями и выпивкой по поющей, целующейся и пьющей Вене». К этой маленькой компании принадлежал также Иоганн Баптист Генсбахер, южный тиролец, который из активного борца за свободу превратился, следуя своим музыкальным наклонностям, в композитора, а затем в капельмейстера собора св. Стефана и пробудил в Карле Марии чувство свободы и родины. К тому же аббат Фоглер в целом поддерживал интерес Вебера к народной песне и народной музыке, открывая ему экзотическую прелесть музыки, прежде всего популярных в то время восточных мотивов, которые нашли выражение в «Похищении из Сераля» Моцарта, а затем в «Абу Гасане» Вебера.
