Повтарят се защото ти принтираш вътре в for цикъла а трябва да е извън него. Също така няма смисъл да правиш проверка дали се contain-ва тъй като самия set се ползва точно за да пази уникални стойности. 

Както е казал kaloyannikov. Освен това правиш ненужни операции при Split и при Add(). Виж моето решение.
         var sortedSet = new SortedSet<string>();

            int n = int.Parse(Console.ReadLine());

            for (int i = 0; i < n; i++)
            {
                string[] line = Console.ReadLine().Split(' ');
                foreach (var item in line)
                {
                    sortedSet.Add(item);
                }
            }

            foreach (var item in sortedSet)
            {
                Console.Write($"{item} ");
            }

 Благодаря за помощта.

искам и да добавя нещо интересно за SortedSet и HashSet-a

това решение с HashSet : 

а това с SortedSet : 

въпреки с HashSet използвам LINQ за да ги подредя по ascending, все още остава по-бърз от SortedSet и то с цели 0.080с

https://github.com/GoldenR1618/SoftUni-Exercises-and-Exams/blob/ecbf4bd4e4a22af89558c137ef3df1aed888f7aa/05.C%23_Advanced/02.SETS_AND_DICTIONARIES/EXERCISE/03_Periodic_Table/PeriodicTable.cs