<?
$i = 10 ;
print('<option value = "$i" > $i </option>') ;

まず､両端をｼﾝｸﾞﾙｸｫｰﾄではさむと変数は展開されません｡
そこで

<?
$i = 10 ;
print("<option value = "$i" > $i </option>") ;

のようにするとｴﾗｰになります｡
"<option value = " で文字列が一旦途切れてしまい､次にいきなり｢$｣があらわれるためで､文法違反になります｡
解決のための第一の方法が､1番のように

$i = 10 ;
print("<option value = ".$i." >". $i." </option>") ;

ﾋﾟﾘｵﾄﾞでつなぐ方法｡ﾋﾟﾘｵﾄﾞは文字列と文字列をつなぐ役割をし､$i は "10" という文字列に変換されてつながれます｡
第二の方法は

$i = 10 ;
print("<option value = \"$i\" >$i</option>") ;

ﾀﾞﾌﾞﾙｸｫｰﾄの前に｢\｣を付ける (ｴｽｹｰﾌﾟする) 方法｡
｢\｣を付けることでﾀﾞﾌﾞﾙｸｫｰﾄは文字列をはさむ記号ではないと解釈されます｡
ついでにいうと､

print("\") ;

はｴﾗｰになります｡
正しくはこうなります｡

print("\\") ;

ｼﾝｸﾞﾙｸｫｰﾄで括った場合には変数展開されない
PHPｽｸﾘﾌﾟﾄ講座：文字列内での変数展開 -- そふぃのphp入門

<?php
$i = 10;
print('<option value="' . $i . '"> '. $i .'</option>');
print("<option value=\"$i\">$i</option>");

$fish = array('10'=>'kingyo');
print("<option value=\"{$fish["10"]}\">{$fish["10"]}</option>");
print('<option value="{$fish["10"]}">{$fish["10"]}</option>');

＞(1)では動作して､(2)では動作しない理由がわかりません
ﾀﾞﾌﾞﾙｸｫｰﾄで囲んだ場合は､内部の変数を展開する
ｼﾝｸﾞﾙｸｫｰﾄで囲んだ場合は､変数の展開を行わない
だから､それぞれの出力結果は下記のようになる

(1)
print '<option value="' . $i . '"> '. $i .'</option>';
   ↓↓↓
<option value="10">10</option>

(2)
print '<option value = "$i" > $i </option>';
   ↓↓↓
<option value="$1"> $1 </option>

＞両端がﾀﾞﾌﾞﾙｸｵｰﾃｰｼｮﾝになったら正常に動作しません
”を単なる文字として認識するようにｴｽｹｰﾌﾟします
具体的には半角の￥を”の前にそれぞれつけることです

(3)
print "<option value=\"$i\">$i</option>";
   ↓↓↓
<option value="10">10</option>

(1)と(3)のどちらを利用してもかまいませんが､
ｴｽｹｰﾌﾟを忘れるといった凡ﾐｽをおかしやすく､
ﾒﾝﾃﾅﾝｽも面倒なので､推奨は(1)です

余談ですが､
printに(かっこ)は不要ですし､
将来への互換性を考慮するなら付けるべきではないです
http://php.net/manual/ja/function.print.php

print()は実際には関数ではありません (言語構造です)｡
このため､引数を括弧で括る必要はありません｡