Несмотря на крайнюю простоту исполнения, картина стала результатом титанической внутренней работы Малевича. Как вспоминал сам художник, идея «Квадрата» появилась у него в ходе работы над оформлением оперы Матюшина «Победа над Солнцем» в 1913 году. Действительно, на сохранившихся эскизах видно, что в основе композиции занавеса Малевич использовал квадрат, но этот квадрат еще не был черным. Его заполняли характерные для кубизма формы. Похожие формы проглядывают через трещинки верхнего красочного слоя «Черного квадрата». Это доказательство того, что Малевич изначально писал очередную композицию в стиле кубизма, но в какой-то момент все закрасил, изобразив черный квадрат на плоском белом фоне. «Я неделю не мог спать, я хотел понять то, что я сделал», — впоследствии рассказывал Малевич своим ученикам. Художник пережил шоковое состояние, вызванное открывшимся в ходе творческого акта прозрением. Написав по наитию «Черный квадрат», Малевич много времени и сил потратил на объяснение картины. «Занят вглядыванием в его («Квадрата». — Прим. автора) загадочное черное пространство», — писал Малевич и утверждал, что видит в нем «то, что когда-то видели люди в лице Бога».