La Société générale est créée par décret impérial du 4 mai 1864, par un groupe d’industriels, dont Paulin Talabot, premier directeur de la banque, et la famille Rothschild. À sa création, elle vise à faciliter le commerce et l’industrie français. Le premier président de la banque est d’ailleurs Eugène Schneider (1805-1875), fondateur de l’entreprise Schneider et cie du Creusot (Saône-et-Loire). En 1870, elle possède 32 agences en France et, en 1871, lance son internationalisation par la création d’une agence londonienne (Angleterre). Malgré la dépression économique de 1871 à 1893, l’entreprise dénombre 148 agences en 1889.

La Société générale se développe considérablement à la Belle époque (1896-1914), devenant la 4e capitalisation de la Bourse de Paris, passant de 14 000 actionnaires en 1895 à 122 000 en 1913. Grâce à l’expansion de son réseau, passé de 260 guichets en 1910 à 1457 en 1933, elle devient la première banque française au cours des années 1920.

Subissant le recul industriel français au cours des années 1930, elle est nationalisée en 1945. Au contraire, durant les Trente Glorieuses (1945-1975), elle connaît une expansion considérable, aussi bien en France qu’à l’international. Privatisée en 1987, elle s’installe à La Défense en 1995.

En 2008, durant la crise financière internationale, elle perd 4,9 milliards d’euros suite à une opération de l’un de ses agents, Jérôme Kerviel.