Здравей колега,
както знаеш съществува съществена разлика м/у кода използвам за управление на микроконтролери и кода писан на езици от високо ниво като C#, Java и т.н. Тази разлика се състой най-вече в това че, за целесъобразната работа на микроконтролера ти е необходим вечен цикъл. В този случай този цикъл е всичко написано м/у "{" и "}" на void loop() цикъла. Скороста с която се четат и изпълняват командите в този цикъл е огромна и е необходимо да се съобразим това.
Това което мога да предложа на пръв поглед е следното:

======================

int buttonPin1 = 3 ; //бутон 1
int relayPin1 = 13 ;  //реле 1
int State = 0;  // Ще отчита последното състояние на релето.
void setup()
{
pinMode(buttonPin1, INPUT);
pinMode(relayPin1, OUTPUT);
}

void loop() {
//Използвам го за състоянието на бутона (когато бутона е натиснат е HIGH, а когато не е LOW).
buttonState = digitalRead(buttonPin1);
While (buttonState == HIGH && State == 0)
   {
   While (buttonState == HIGH)
         {
         digitalWrite(relayPin1 , HIGH);
         }
   State = 1;
   }

While (buttonState == HIGH && State == 1)
   {
   While (buttonState == HIGH)
         {
         digitalWrite(relayPin1 , LOW);
         }
   State = 0;
   }

Предварително се извинявам ако има грешки в синтаксиса. Нямам софтуера и не съм го пробвал.
Нека да разкажа каква е заложената идея. Когато програмата започне да се изпълнява микроконтролера ще изпилни само веднъж кода написан преди void loop() цикъла. След това многократно ще изплнява само него. Нека да приемем, че в самото начало бутона не е натиснат => buttonState = LOW. Въжда се че нищо няма да се случи, защото едно от условията на цилите е този бутон да е натиснат. В следващия момент натискама бутона, когато изпълнението на void loop() цикъла започне от начало. ще се прочете buttonState = digitalRead(buttonPin1); следователно в този момент buttonState = HIGH. Проверяваме условията на първия While цикъл. вижда се че, те са изпълнение. Влизаме в неговото тяло. Проверяват се условията на вложения в него While (buttonState == HIGH) цикъл. В тази ситуация и това е вярно. тялото на този цикъл съдържа само една команда и тя е за активира изхода (да запали релето). До момента на деактивиране на бутона, изпълнението на програмата остава заключено между този вложен цикъл, т.е. тя многократно ще изпълява активиране на вече активирания изход (това не е никакъв проблем). При деактивиране на бутна, условието на вътрешния цикъл вече няма да е изпълнено и програмата продължава от следващия ред след този цикъл. Това е: State = 1. След това се проверяват условията на външния цикъл While (buttonState == HIGH && State == 0), те не са изпълнени и програмата излиза от него. продължава с проверка на втория цикъл While (buttonState == HIGH && State == 1), вижда се че само вторто условие е изпълнено т.е. програмата няма да го изпълни. в тази ситуация релето ще остане в заработило положение. При повторно натискане на бутона ситуацията е аблосютно същата но вече са изпълнение усовията на втория цикъл за деактивиране на изхода т.е. релет ще отпадне. 

Поздрави,
Боби