Nach seinem Studium von Geografie, Geologie, Geschichte und Neue Sprachen an der Universität Halle, wo er 1901 zum Dr. phil. promovierte, war Berg u.a. als Studienrat an den höheren Staatsschulen in Sondershausen tätig. Zeitweilig war er als freischaffender Schriftsteller aktiv. 1919 erhielt er eine Stelle als Studienrat für das Fach Naturwissenschaften am Evangelischen Realgymnasium in Bad Frankenhausen, wo er gleichzeitig auch am Kyffhäuser-Technikum lehrte.

Alfred Berg wurde 1920 Direktor des neu gegründeten Kreisheimatmuseums in Bad Frankenhausen und beschäftigte sich sehr intensiv mit der Höhlenforschung. Er starb bei einem Luftangriff im Lesesaal der Universitätsbibliothek in Jena.