Olson efterträdde 1981 Arthur A. Link som guvernör i North Dakota och efterträddes 1985 av George Sinner. Efter sin tid som guvernör var Olson verksam inom bankbranschen i Minnesota. President George W. Bush utnämnde honom år 2002 till International Joint Commission som avgör dispyter mellan USA och Kanada.