Michel Simon naît à Genève la même année que le cinématographe (ce qui lui faisait dire qu'« un malheur n'arrive jamais seul »), d'un père charcutier de confession catholique et d'une mère femme au foyer de confession protestante.
Il se détourne rapidement de ses études : celles au Collège de Genève s'avèrent médiocres, voire catastrophiques, se cantonnant à l'avant-dernière place de sa classe. Il quitte alors à 16 ans sa famille pour s'installer à Paris, où il réside à l'hôtel Renaissance, rue Saint-Martin, puis à Montmartre.
Il exerce divers petits métiers, donnant des leçons de boxe ou vendant des briquets de contrebande à la sauvette. Il est aussi réputé pour dévorer tous les livres qui lui tombent sous la main avec une prédilection pour les écrits de Georges Courteline.