Rに数学としての関数の最大値を求める機能は知りませんが、
下記は与えられた因子に対して解析を行う処理です。
関数特性を把握した上で因子を決定しなければなりませんが、
>f <- function(x) 100*x^-2*(x-1) >max( y = f( x = (10:30)/10 ) )
といった感じでしょうか。
上記は 1.0?3.0 を0.1 刻みで関数に適用した中の最大値を求めるものです。
関数がどのようになっているかは、下記のようにして様子を確認できるかと思います。
>f( x = (-100:100)/10 )
そのものズバリのQ&Aがありました。
>関数の最大値の求め方
Q&A (初級者コース)/14 - RjpWiki
optimize関数で、目的関数値の最小値を見つけます。(関数をマイナスにして評価する)
http://www.ge.ce.nihon-u.ac.jp/~kiyono/prints/H21/r_h21.pdf
こちらが参考になるでしょうか?