В 1900 г. он опубликовал свою первую крупную психоаналитическую работу «Толкование сновидений», которая фактически оказалась провозвестником новой эры в гуманитарных науках и культуре ХХ в. Уже в первой трети столетия она (наряду с другими трудами Фрейда) становится настольной книгой многих философов, литературоведов, искусствоведов; питает творческую фантазию художников многих направлений авангарда. Фрейд постоянно совершенствовал свою теорию (выделяют даже три периода ее эволюции), в которой в качестве главного двигателя жизни человека, общества, культуры рассматривается бессознательное, что стало настоящей революцией в век господства рационализма и «света разума».
Обобщенно суть этой теории сводится к следующему. В психике человека существует три сложно взаимодействующие между собой сферы: бессознательное, предсознательное и сознательное (сознание). Позже с некоторыми модификациями он обозначил их более философично как Оно (Id), Я (Ego) и Сверх-Я (Super-Ego). Бессознательное – это фундамент и генератор деятельности психики. Оно иррационально, в нем сосредоточены все биологические влечения и желания человека, главные среди них полярны: это жизнесозидающие влечения – сексуальные (позже обозначенные как Эрос) и жизнеразрушающие – влечение к смерти (Танатос), порождающее склонность к агрессии. В реальной психике человека они перемешаны друг с другом в различных пропорциях. Энергию сексуальных влечений Фрейд обозначал как «либидо».
В сфере бессознательного находятся как первичные природные инстинкты, так и вытесненные туда из сознательно-действенной сферы неприемлемые для общества данной ступени развития влечения. Главный стимул и цель деятельности бессознательного – удовольствие (Фрейд считал, что вся психическая деятельность человека направлена на две цели: сокращение неудовольствия и приобретение удовольствия – отсюда главная роль в ней бессознательного). Для его достижения бессознательное должно проявить себя (реализовать желания) в действительности, т.е. попасть в сознание, которое управляет реализацией всех психических процессов. Предсознательное отделяет бессознательное от сознания и одновременно связывает их, является мостом между ними и цензором для бессознательного. Это разумное Я человека, руководствующееся в своей деятельности принципом реальности, который формируется как следствие осознанного социокультурного бытия человека. Предсознательное регулирует актуализацию бессознательных влечений (например, позволяет сексуальным влечениям реализоваться только в рамках брака и семьи; агрессивным влечениям – на войне, в гладиаторских боях или в некоторых спортивных состязаниях и т.п.) и вытесняет из сферы сознания те из них, которые не соответствуют данному уровню культуры (запрещенные формы сексуальности, стремление к насилию, жестокости, агрессии и т.п.). Отсюда нарастающий с развитием рационально-морализаторской культуры конфликт человека (его бессознательного) с культурой (достигший к началу ХХ в., как известно, критической величины).
С другой стороны, вытесненные или запрещенные (табуированные) цензурой предсознания (Я) влечения ищут «обходные пути» для проникновения в сознание (сферу Сверх-Я) и реализацию в действительности. Эта реализация осуществляется различными способами: у части людей приводит к нарушениям психики – неврозам и психозам; у большинства проявляется в сновидениях, грезах («снах наяву»), фантазировании, в ошибочных действиях, описках, оговорках; сублимируется в творческой деятельности человека – в науке, религии, искусстве, т.е. способствует развитию культуры. Смысл конфликта человека с культурой Фрейд (особенно четко в работе 1930 г. «Неудовлетворенность в культуре») усматривал во все возрастающем вытеснении культурой природных (сексуальных, агрессивных) влечений человека, что уменьшает его счастье (понимаемое Фрейдом как реализация чувственно-соматических удовольствий), развивает вроде бы немотивированные чувства страха, вины, социального дискомфорта; приводит в конце концов к психическим расстройствам.
Культура ХХ в. (особенно массовая культура, но также и многие направления авангарда, модернизма, постмодернизма) во многом буквально и вполне сознательно приняла эту концепцию Фрейда на вооружение, т.е. начала активно фабриковать продукты, позволяющие ослабить конфликт человека с культурой и природой. В своих бесчисленных произведениях и конкретных проявлениях (особенно в сфере искусства и литературы) она дает выход наружу главным табуированным или вытесненным влечениям – сексуальному во всех его проявлениях и агрессивному – «выпускает пар» из достигшего предела перенапряженности котла бессознательного с помощью сублимации и компенсации в феноменах культуры и искусства, максимально приближенных к реализации скрытых влечений человека. В постмодернизме, возникшем на стыке постструктурализма и постфрейдизма, одной из существенных форм сублимации бессознательного стало выдвижение на первый план категории "телесности " и актуализации в арт-практиках всевозможных форм ее манифестации.
Из особо значимых для эстетики и сферы искусства положений теории Фрейда следует еще указать на проблему комплексов и механизм психоанализа. Под комплексом психоаналитики имеют в виду конкретную совокупность неосознаваемых представлений, переживаний, интенций, как правило, имеющих отношение к сексуальным влечениям, вытесненным в сферу бессознательного и прорывающимся оттуда в самой разнообразной форме (сновидений, неврозов, галлюцинаций, произведений искусства), содержащей, однако, в зашифрованном (символическом) виде характерные черты исходного комплекса. К творческой сфере сам Фрейд относил в первую очередь Эдипов комплекс, формирующийся у мальчиков в возрасте 3-5 лет и заключающийся в эротическом влечении к матери и неприязни к отцу-сопернику. Соответствующий комплекс у девочек (влечение к отцу и ревность к матери) Фрейд назвал комплексом Электры. Эти комплексы с возрастом вытесняются в бессознательное, но активно дают о себе знать на протяжении всей жизни человека. С Эдиповым комплексом тесно связан комплекс кастрации (боязнь мальчика, что отец кастрирует его за влечение к матери). Существен в жизни человека и в искусстве комплекс неполноценности и некоторые другие.
Для терапии неврозов и отдельных форм психоза Фрейд разработал методику психоанализа, которая основывается на выведении в сферу сознания пациента реальных причин (вытесненных влечений, комплексов, желаний; а также позабытых травм детской психики, связанных в основном с эротической сферой) его заболевания путем длительных доверительных бесед (психоаналитических сеансов). В их ходе анализируются события раннего детства пациента, его детские переживания, страхи, сновидения, грезы и галлюцинации; особенности сексуальной жизни, пристрастия, тайные влечения и т.п. психо-физиологические особенности, часто тщательно скрываемые человеком (иногда даже и от самого себя).
В результате психотерапевт нащупывает истинную причину невроза и подводит к ее пониманию и самого больного. Осознав ее, пациент, как правило, избавляется от заболевания. Этот метод Фрейд распространил на анализ психики некоторых выдающихся мастеров искусства прошлого (Леонардо да Винчи, Шекспира, Гёте, Достоевского), пытаясь вскрыть глубинные причины появления тех или иных мотивов в их творчестве, особенностей конкретных произведений (медлительность Гамлета в совершении отмщения за отца, некоторые особенности картин Леонардо, мотивы отцеубийства у Достоевского и т.п.). Этим самым он дал мощный толчок одному из наиболее сильных в ХХ в. направлений в литературно-художественной критике – психоаналитическому.
Сам Фрейд признавал себя мало компетентным в вопросах искусства и эстетики. Более того, он полагал, что перед сущностью красоты и искусством в целом психоанализ бессилен. К искусству он подходил исключительно со своей профессиональной позиции ученого-психоаналитика, т.е. сугубо рационалистически; он подчеркивал, что не может наслаждаться произведением искусства (например, музыкой вообще), если не понимает, что доставляет это наслаждение. Сугубо рационалистический подход к искусству позволил Фрейду (как это ни парадоксально) выявить именно иррациональную природу искусства, показать, что искусство является наиболее полной и адекватной формой сублимации вытесненных влечений художника. В искусстве осуществляется игра психических энергий, освобожденных от внешних ограничений. Художник в своих формах и образах «обходит» запреты цензора (Я) и выводит на поверхность запретные зовы и вожделения плоти, до того бушевавшие в бессознательном.